오픈AI 최고 윤리 책임자 클로에 바카르 퇴사, 그 이유는?
오픈AI의 유일한 전담 윤리 책임자였던 클로에 바카르가 합류 1년 만에 전격 퇴사했습니다. 그녀의 퇴사는 최근 해킹 사고 발생 및 여러 안전 책임자들의 연이은 퇴사 등 오픈AI 내부의 AI 안전 및 윤리 리더십에 대한 중대한 공백 우려를 낳고 있습니다. 철학자 출신으로서 AI 윤리의 중요성을 강조했던 그녀의 이탈은, 빠르게 성장하는 최첨단 AI 모델 개발 과정에서 기업 내부의 안전 및 윤리 가드레일이 어떻게 유지될 것인지에 업계의 중대한 화두를 던집니다.
오픈AI의 윤리 책임자(Head of Ethics) 클로에 바카르(Chloé Bakalar)가 퇴사했다. 오픈AI 해킹 사건이 발생한 후, AI 안전성에 대한 우려가 고조되는 혼란스러운 시기에 일어난 일이다.
파이낸셜 타임스(FT)가 최초로 보도한 바에 따르면, 그녀의 퇴사는 지난달 발생했으며 캘리포니아에 위치한 이 AI 기업에 입사한 지 채 1년이 되지 않은 시점이었다. 최근 오픈AI의 안전 시스템(Safety Systems) 팀을 이끌던 요하네스 하이데케(Johannes Heidecke)와 수석 미래학자(Chief Futurist) 조슈아 아키암(Joshua Achiam) 역시 회사를 떠났다.
비즈니스 인사이더(Business Insider)에 따르면, 오픈AI는 2022년 챗GPT(ChatGPT) 출시 이후 안전, 제품 및 연구 팀을 수차례 재편했다. 이 기간 동안 회사는 소규모 연구실에서 거대 기술 기업으로 빠르게 성장했다.
클로에는 3월 스페인 IE 대학교의 소셜 미디어 채널인 IE 인사이츠(IE Insights)와의 인터뷰에서 "최전선에 있던 사람들조차도 (AI가) 이런 식으로 폭발적으로 성장할 줄은 몰랐다"고 말했다. 그녀는 "모든 사람이 이 논의에 참여해야 한다. 수십억 달러 규모의 기업을 가진 단 한 명의 사람이 모든 사람에게 옳은 것을 지시하도록 해서는 안 된다. 특히 전 세계에서 작동하며 수십억 명에게 영향을 미치는 글로벌 기술을 논할 때는 더욱 그렇다"고 강조했다.
클로에 바카르의 오픈AI 퇴사
FT와의 대화에서 그녀의 업무에 정통한 한 관계자는 클로에가 오픈AI에서 모델 개발의 윤리적 접근, 인간과 AI의 상호작용 방식, 기계 의식(Machine consciousness)에 대한 논쟁에 주력했다고 밝혔다. 이 관계자는 신문에 그녀가 회사 내 유일한 전담 윤리 전문가였으며, 현재 대체 인력은 없다고 전했다.
오픈AI의 대변인은 FT에 "클로에의 기여에 감사한다"며 "오픈AI에서 AI 윤리는 한 명의 소유자나 단일 팀에 국한되지 않으며, 윤리적 고려 사항은 여러 연구 팀들이 주도하는 모델 구축 과정 전반에 깊숙이 자리 잡고 있다"고 밝혔다.
지난해 8월 오픈AI에서의 역할을 맡기 전, 그녀는 2021년 11월부터 2025년 8월까지 메타(Meta)의 수석 윤리 전문가(Chief Ethicist)로 재직했다. 클로에는 현재 프린스턴 기술 정책 센터(Princeton Center for Technology Policy)의 자문 위원회 위원과 런던 대학교(University College London)의 선임 연구원으로도 활동 중이다. 그녀는 템플 대학교, 프린스턴 대학교, 펜실베이니아 대학교에서 다양한 학술 직책을 맡았으며, 펜실베이니아 대학교에서 정치학 및 정부학 박사 학위를 취득했다. 그녀의 박사 학위 논문 제목은 '스몰 토크: 자유민주주의 삶에서의 연설의 사회성(Small Talk: The Socialities of Speech in Liberal Democratic Life)'이었다.
"AI 윤리가 제기하는 질문들은 인류가 수세기 동안 물어왔던 것과 같은 종류의 질문들입니다."
- 클로에 바카르, 전 오픈AI AI 윤리 책임자
'나는 생각한다, 고로 채용된다'
클로에의 오픈AI 합류는 기술의 잠재적 결과를 고민하기 위해 세계 최대 규모 AI 연구소들이 학계에서 철학자들을 영입하는 트렌드를 따른 것이었다. 이코노미스트(The Economist)의 6월 기사는 학생부터 교수까지 철학과의 많은 인력들이 AI 기업에 스카우트되고 있다고 지적했다. 예일 대학교의 철학자 루치아노 플로리디(Luciano Floridi)는 이 주간지에 학생들이 졸업하기도 전에 취업 제안을 받고 있다고 전했다.
개발자와 코더가 주를 이루는 이러한 기업들이 철학자를 고용하는 것이 이상하게 보일 수 있지만, 클로에가 지적하듯 이는 합리적인 일이다. 그녀는 IE 인사이츠와의 인터뷰에서 "AI 윤리가 제기하는 종류의 질문들은 인류가 수세기 동안 물어왔던 것과 동일한 질문"이라며 "인간이라는 것의 의미는 무엇인가? 타인에게 책임을 진다는 것은 무엇인가? 우리가 만들어낸 것들에 대해 우리는 어떤 종류의 책임을 지는가?"라고 말했다.
최첨단 모델(Frontier models)에서 비롯되는 윤리 및 안전 우려
첨단 AI 모델의 빠른 개발로 인해 수많은 안전 및 윤리적 우려가 파생되고 있다. 앨런 튜링 연구소(The Alan Turing Institute)는 AI의 발전이 정부가 당면한 가장 시급한 문제 중 일부를 해결하는 데 도움을 줄 수 있다는 전망은 고무적이지만, 정당한 우려 역시 넘쳐나고 있다고 지적했다.