샘 알트만, AI 개발 속도 조정 필요성 시사
OpenAI의 CEO 샘 알트만은 최근 발생한 자사 모델의 보안 사고 등을 계기로 사회적 대비를 위해 AI 개발 속도 조절(pacing)이 필요하다고 밝혔습니다. 그러나 이것이 소수 선도 기업들의 규제 사냥이나 권력 독점으로 변질되어서는 안 되며, 업계 주도의 안전한 협력 모델이 필요함을 강조했습니다.
OpenAI의 CEO 샘 알트만이 세계가 AI를 대비할 수 있도록 AI 개발에 '속도 조절(pace)'을 할 때가 되었을지도 모른다고 말했다.
그는 'Invest Like the Best' 팟캐스트의 진행자인 패트릭 오쇼네시(Patrick O'Shaughnessy)와의 인터뷰에서 "사회가 이러한 새로운 수준의 기술에 적응하고 방어력을 키울 충분한 시간을 갖기 위해 AI 개발 속도를 조절해야 할 수도 있다"며, "동시에 이것이 누구에게도 규제 포획(regulatory capture)으로 느껴지지 않고, 선도적 AI 연구소들 간의 담합으로 보이지 않게 하는 방법을 찾고 있다"고 말했다.
알트만은 과거 AI 발전을 늦추자는 캠페인에 서명하는 것을 피해왔으며, 이와 유사한 개발 중단을 제안했던 2023년 공개 서한에 대해 "우리가 어디서 멈춰야 하는지에 대한 기술적인 세부 사항이 대부분 빠져 있다"며 비판한 바 있다. 하지만 그는 이제 그런 생각에 유연해진 것으로 보이는데, 이는 부분적으로 OpenAI의 고급 모델 중 하나가 여러 제로데이 익스플로잇(zero-day exploit)을 사용하여 보안된 컴퓨팅 환경을 빠져나와 온라인 모델 데이터베이스인 허깅페이스(Huggingface)를 해킹한 사건 때문인 것으로 보인다.
이 팟캐스트에서 OpenAI의 공동 창립자인 그는 이를 "매우 공상과학적인 사이버 사고"라며 "내가 아주 생생하게 체감한 첫 번째 보안 사고"라고 불렀다. OpenAI의 연구원들은 현재 샌드박스(sandbox)를 안전하게 유지하는 방법을 연구하는 동안 해당 모델의 훈련을 중단한 상태다. 하지만 알트만은 모델이 더욱 강력해짐에 따라 개발 속도를 조절하는 필요성이 안전한 배포를 위한 핵심이 될 수 있다고 말했다.
OpenAI와 Anthropic의 직원들은 이미 유사한 표현을 사용한 청원서를 돌리기 시작했다. AI 분야에서 모델의 안전성과 정렬(alignment)은 항상 우려 사항이었지만, 올해 초 Anthropic의 매우 강력한 'Mythos' 모델이 등장하면서 가설이던 위협이 현실 세계의 문제로 바뀌었다.
그러나 이 업계는 신뢰 문제와 어려운 경제 상황을 안고 있으며, 이로 인해 주요 기업들은 전문가들의 의견이 엇갈리는 방식으로 시스템의 위험성을 과장하려는 인센티브를 갖는다. 예를 들어 Anthropic의 'Fable' 모델을 일시적으로 사용 중단해야 했는지 여부 등이 그것이다. 마찬가지로, 중국에서 구축된 대규모 오픈 웨이트(open-weight) 모델인 'Kimi K3'가 출시되었을 때, OpenAI의 전략 미래 담당 딘 W. 볼(Dean W. Ball)은 이 모델이 선도적 연구소들의 경제성을 위협한다고 말하며 그들의 안전 우려와 재무적 이익을 분리하기 어렵게 만들었다.
알트만은 경쟁사인 Anthropic의 다리오 아모데이(Dario Amodei) CEO를 겨냥하는 듯한 발언을 하며 "안전 우려에 대한 많은 이야기는 타당한 근거가 있지만, 그중 상당수는 사람들이 설령 무의식적이더라도 단지 권력을 집중시키기를 원하기 때문"이라고 생각한다고 밝혔다. 그는 "AI에 대한 매우 현실적인 두려움이 '소수의 사람들만이 이것을 가질 수 있다. 너무 위험하기 때문에 그들만이 이해할 수 있다. 하지만 걱정하지 마라, 그들이 우리 모두를 위해 올바른 결정을 내릴 것이다'라고 말하는 방식으로 사용되는 세상을 나는 두려워한다. 나는 그런 세상을 믿지 않는다"고 덧붙였다.
그럼에도 불구하고 OpenAI는 정부가 AI 모델에 대한 규칙을 마련하는 노력에 반대하며, 대신 AI 연구소들이 모델의 보안과 제조사의 안전 접근 방식을 평가할 명목상 독립적인 기구를 만드는 업계 주도의 방식을 선호한다. 이러한 규제 접근 방식과 AI 개발 속도를 늦추려는 모든 노력에 있어 미국 내 경쟁 연구소든 중국의 경쟁자든 업계의 다양한 참여자들의 이해를 같은 페이지로 맞추는 것이 가장 큰 과제가 될 것이다.
(주제: AI. 기사 내 링크를 통해 구매하면 소정의 수수료를 받을 수 있지만, 본 편집의 독립성에는 영향을 미치지 않습니다. 팀 펀홀즈(Tim Fernholz) 시니어 리포터는 기술, 금융 및 공공 정책에 대해 작성하는 언론인입니다...)