오픈AI·앤스로픽·구글, AI 안전 협의 몇 주째 진행
오픈AI의 글로벌 정책 총책 크리스 레인(Chris Lehane)은 오픈AI가 경쟁사인 앤스로픽, 구글 딥마인드와 수주간 AI 안전 관련 협의를 진행해왔다고 확인했습니다. 앤스로픽 CEO 다리오 아모데이의 '프론티어 AI 개발 속도 조절' 촉구 에세이 이후 업계 지도자들이 잇달아 지지 의사를 밝혔으며, 세 회사는 AI 표준 기구 설립을 논의 중인 것으로 알려졌습니다. 다만 경쟁 제한 시 반독점법 위반 소지가 있어, 아모데이는 한정적 정부 면제를 제안했지만 레인은 불필요하다는 입장입니다.
오픈AI의 글로벌 정책 총책인 크리스 레인(Chris Lehane)은 화요일 기자들에게, 블룸버그가 처음 보도했듯이 회사가 경쟁사인 앤스로픽(Anthropic)과 구글 딥마인드(Google DeepMind)와 함께 수주간 AI 안전 작업을 진행해왔다고 밝혔다. 레인은 AI와 관련된 재앙적 위험에 대응하기 위해 미국 의회의원들과 협의차 워싱턴에 있는 것으로 알려졌다.
이 발표는 앤스로픽 CEO 다리오 아모데이(Dario Amodei)가 토요일에 발표한 에세이 이후에 나왔는데, 해당 에세이에서 그는 업계가 협력하여 프론티어 AI의 속도를 늦추고 재앙적 위험을 피해야 한다고 촉구했다. 오픈AI의 샘 알트먼(Sam Altman), 구글의 데미스 허사비스(Demis Hassabis), 스페이스XAI의 일론 머스크(Elon Musk) 등 업계 AI 리더들은 아모데이의 서한과 행동 촉구를 지지했으며, 알트먼은 오픈AI가 앤스로픽과 함께 안전성을 모니터링하기 위해 제3자 평가기관을 회사에 상주시키는 데 동의한다고 밝혔다.
화요일 레인은 세 회사가 AI 안전과 관련해 몇 주간 협의를 진행해왔다는 사실을 인정했다. 알트먼을 포함한 일부는 이러한 협의가 경쟁을 억제하는 것으로 판명될 경우 반독점법 위반 위험에 처할 수 있다고 지적했다. 아모데이의 에세이는 이런 안전 협력을 허용하는 한정적인 정부 면제를 제안했지만, 레인은 기업들이 그런 면제가 필요 없다고 말한 것으로 전해진다.
이 소식은 앞선 보도와 이 회사들이 협력해왔다는 힌트를 확정하는 것이다. 지난주 후반 포춘(Fortune)과의 인터뷰에서 알트먼은 다른 AI 리더들과 비공개 논의를 해왔다고 암시했다. 이번 주 더 인포메이션(The Information)은 세 회사가 AI 업계를 위한 표준 기구를 만들기 위해 함께 작업해왔다고 보도했는데, 알트먼이 직원들에게 이는 미국 정부의 지원 없이 이루어져야 한다고 말한 것으로 알려졌다.
허사비스는 7월 미국에 세계에서 가장 진보된 모델을 심사하고 위험이 커질 경우 업계 전체의 속도 조절을 조율할 권한을 가진 AI 감시기구 역할을 할 새로운 표준 기구를 설립할 것을 촉구했다.
반면 트럼프 대통령은 안전 우려를 날조된 것으로 일축하고 더 엄격한 규제의 필요성에 반대하며, 어떠한 속도 조절도 중국에게 이 경쟁에서 유리한 위치를 줄 것이라고 주장했다. 업계 다수에 지분을 보유한 오랜 투자자인 그의 핵심 AI 자문인 데이비드 색스(David Sacks)도 이에 동조하며 AI의 실존적 위험에 대한 우려는 과장되었다고 말했다.
같은 화요일 회의에서 레인은 오픈AI가 FRONTIER 법안의 조항을 지지한다고 밝혔다. 이 조항은 최상위 프론티어 연구소들이 모델이 안전하게 개발되도록 '독립 검증 기구'가 회사에 들어올 수 있도록 의무화하는 내용이다. 테크크런치(TechCrunch)는 논평을 위해 앤스로픽, 구글, 오픈AI에 연락을 취했다.