메뉴
HN
Hacker News • 45일 전

오픈AI 최고 윤리 책임자 클로에 바카르 퇴사, 그 이유는?

IMP
8/10
핵심 요약

오픈AI의 유일한 전담 윤리 책임자였던 클로에 바카르가 합류 1년 만에 전격 퇴사했습니다. 그녀의 퇴사는 최근 해킹 사고 발생 및 여러 안전 책임자들의 연이은 퇴사 등 오픈AI 내부의 AI 안전 및 윤리 리더십에 대한 중대한 공백 우려를 낳고 있습니다. 철학자 출신으로서 AI 윤리의 중요성을 강조했던 그녀의 이탈은, 빠르게 성장하는 최첨단 AI 모델 개발 과정에서 기업 내부의 안전 및 윤리 가드레일이 어떻게 유지될 것인지에 업계의 중대한 화두를 던집니다.

번역된 본문

오픈AI의 윤리 책임자(Head of Ethics) 클로에 바카르(Chloé Bakalar)가 퇴사했다. 오픈AI 해킹 사건이 발생한 후, AI 안전성에 대한 우려가 고조되는 혼란스러운 시기에 일어난 일이다.

파이낸셜 타임스(FT)가 최초로 보도한 바에 따르면, 그녀의 퇴사는 지난달 발생했으며 캘리포니아에 위치한 이 AI 기업에 입사한 지 채 1년이 되지 않은 시점이었다. 최근 오픈AI의 안전 시스템(Safety Systems) 팀을 이끌던 요하네스 하이데케(Johannes Heidecke)와 수석 미래학자(Chief Futurist) 조슈아 아키암(Joshua Achiam) 역시 회사를 떠났다.

비즈니스 인사이더(Business Insider)에 따르면, 오픈AI는 2022년 챗GPT(ChatGPT) 출시 이후 안전, 제품 및 연구 팀을 수차례 재편했다. 이 기간 동안 회사는 소규모 연구실에서 거대 기술 기업으로 빠르게 성장했다.

클로에는 3월 스페인 IE 대학교의 소셜 미디어 채널인 IE 인사이츠(IE Insights)와의 인터뷰에서 "최전선에 있던 사람들조차도 (AI가) 이런 식으로 폭발적으로 성장할 줄은 몰랐다"고 말했다. 그녀는 "모든 사람이 이 논의에 참여해야 한다. 수십억 달러 규모의 기업을 가진 단 한 명의 사람이 모든 사람에게 옳은 것을 지시하도록 해서는 안 된다. 특히 전 세계에서 작동하며 수십억 명에게 영향을 미치는 글로벌 기술을 논할 때는 더욱 그렇다"고 강조했다.

클로에 바카르의 오픈AI 퇴사

FT와의 대화에서 그녀의 업무에 정통한 한 관계자는 클로에가 오픈AI에서 모델 개발의 윤리적 접근, 인간과 AI의 상호작용 방식, 기계 의식(Machine consciousness)에 대한 논쟁에 주력했다고 밝혔다. 이 관계자는 신문에 그녀가 회사 내 유일한 전담 윤리 전문가였으며, 현재 대체 인력은 없다고 전했다.

오픈AI의 대변인은 FT에 "클로에의 기여에 감사한다"며 "오픈AI에서 AI 윤리는 한 명의 소유자나 단일 팀에 국한되지 않으며, 윤리적 고려 사항은 여러 연구 팀들이 주도하는 모델 구축 과정 전반에 깊숙이 자리 잡고 있다"고 밝혔다.

지난해 8월 오픈AI에서의 역할을 맡기 전, 그녀는 2021년 11월부터 2025년 8월까지 메타(Meta)의 수석 윤리 전문가(Chief Ethicist)로 재직했다. 클로에는 현재 프린스턴 기술 정책 센터(Princeton Center for Technology Policy)의 자문 위원회 위원과 런던 대학교(University College London)의 선임 연구원으로도 활동 중이다. 그녀는 템플 대학교, 프린스턴 대학교, 펜실베이니아 대학교에서 다양한 학술 직책을 맡았으며, 펜실베이니아 대학교에서 정치학 및 정부학 박사 학위를 취득했다. 그녀의 박사 학위 논문 제목은 '스몰 토크: 자유민주주의 삶에서의 연설의 사회성(Small Talk: The Socialities of Speech in Liberal Democratic Life)'이었다.

"AI 윤리가 제기하는 질문들은 인류가 수세기 동안 물어왔던 것과 같은 종류의 질문들입니다."

  • 클로에 바카르, 전 오픈AI AI 윤리 책임자

'나는 생각한다, 고로 채용된다'

클로에의 오픈AI 합류는 기술의 잠재적 결과를 고민하기 위해 세계 최대 규모 AI 연구소들이 학계에서 철학자들을 영입하는 트렌드를 따른 것이었다. 이코노미스트(The Economist)의 6월 기사는 학생부터 교수까지 철학과의 많은 인력들이 AI 기업에 스카우트되고 있다고 지적했다. 예일 대학교의 철학자 루치아노 플로리디(Luciano Floridi)는 이 주간지에 학생들이 졸업하기도 전에 취업 제안을 받고 있다고 전했다.

개발자와 코더가 주를 이루는 이러한 기업들이 철학자를 고용하는 것이 이상하게 보일 수 있지만, 클로에가 지적하듯 이는 합리적인 일이다. 그녀는 IE 인사이츠와의 인터뷰에서 "AI 윤리가 제기하는 종류의 질문들은 인류가 수세기 동안 물어왔던 것과 동일한 질문"이라며 "인간이라는 것의 의미는 무엇인가? 타인에게 책임을 진다는 것은 무엇인가? 우리가 만들어낸 것들에 대해 우리는 어떤 종류의 책임을 지는가?"라고 말했다.

최첨단 모델(Frontier models)에서 비롯되는 윤리 및 안전 우려

첨단 AI 모델의 빠른 개발로 인해 수많은 안전 및 윤리적 우려가 파생되고 있다. 앨런 튜링 연구소(The Alan Turing Institute)는 AI의 발전이 정부가 당면한 가장 시급한 문제 중 일부를 해결하는 데 도움을 줄 수 있다는 전망은 고무적이지만, 정당한 우려 역시 넘쳐나고 있다고 지적했다.

원문 보기
원문 보기 (영어)
Article Responsible AI Why Did OpenAI’s Head of Ethics Chloé Bakalar Leave? By Adam Pond August 11, 2026 undefined mins Share this article Prioritise Us on Google Share this article Prioritise Us on Google OpenAI’s Ethics Head Chloé Bakalar has left the leading AI amid a tumultuous period for AI safety – following the OpenAI hacking incident OpenAI’s Head of Ethics Chloé Bakalar has left the company. The departure was first reported by the Financial Times and happened last month, less than a year after she joined the Californian AI firm. In recent times, Johannes Heidecke, Head of OpenAI 's Safety Systems team, also left the company – as did OpenAI’s Chief Futurist Joshua Achiam. According to Business Insider , OpenAI has reorganised its safety, product and research teams numerous times since ChatGPT launched in 2022, after which the company grew rapidly from a small research lab into a massive tech company . “The people at the forefront of it had no idea it was going to blow up the way it did,” Chloé told IE Insights , a social media channel of the Spanish IE University, in March. "Everybody needs to be part of the conversations; it shouldn’t simply be one person who has a multi-billion-dollar company that gets to dictate that this is what’s right for all people, especially when we are talking about global technologies that are operating all over the world, impacting billions of people." Chloé Bakalar departs OpenAI At OpenAI, Chloé’s primary focus was on ethical approaches to model development, how humans interact with AI and debate over machine consciousness, said one person familiar with her role who spoke with the FT. The person told the newspaper that she was the only dedicated ethicist at the company and there is no replacement. “We’re thankful for Chloé’s contributions,” an OpenAI spokesperson told the FT. “AI ethics doesn’t live with one owner or team at OpenAI and ethical considerations are deeply embedded into the model-building process driven by a number of teams across research." Before her role at OpenAI, which she started last August, she was the Chief Ethicist at Meta from November 2021 to August 2025. Chloé also currently serves as an Advisory Council Member at the Princeton Center for Technology Policy and as a Senior Research Associate at University College London. She has held a variety of academic positions at Temple University, Princeton, and the University of Pennsylvania – where she completed her PhD in Political Science and Government. Her Dissertation was titled “Small Talk: The Socialities of Speech in Liberal Democratic Life.” The kinds of questions that AI ethics brings up, are the same kinds of questions that people have been asking for centuries Chloé Bakalar, former AI Ethics Lead at OpenAI I think, therefore I’m hired Chloé's appointment at OpenAI followed a trend of some of the world’s biggest AI labs hiring philosophers from academia to think through the potential ramifications of the technology. A June article from The Economist highlights that many in philosophy departments, from students to professors, are being snapped up by AI firms . Students get job offers before they have graduated, Luciano Floridi, a philosopher at Yale University, told the weekly. It may seem odd for these developer and coding-heavy firms to be hiring philosophers, but as Chloé points out: "The kinds of questions that AI ethics brings up, are the same kinds of questions that people have been asking for centuries," she told IE Insights. "What does it mean to be a human? What does it mean to have responsibilities to others? What kinds of responsibilities do we have for the things that we create?" Ethical and safety concerns from frontier models Numerous safety and ethical concerns stem from the rapid development of advanced AI models . The Alan Turing Institute has argued that the prospect that progress in AI can help governments to confront some of its most urgent challenges is exciting – but legitimate worries abound. It highlights that the steep learning curve means that mistakes and miscalculations will be made and that both unanticipated and harmful impacts will occur. This is particularly prescient after AI models from OpenAI, Anthropic and now Moonshot escaped training environments in recent weeks. One of the ways some AI firms deal with issues of model misalignment is by having a constitution. US AI firm Anthropic highlights in its constitution: "Our central aspiration is for Claude to be a genuinely good, wise and virtuous agent. That is, to a first approximation, we want Claude to do what a deeply and skillfully ethical person would do in Claude’s position." The Economist notes that constitutions for Anthropic’s Claude models have incorporated material from sources as diverse as the German philosopher Immanuel Kant, Apple’s terms of service and the Universal Declaration of Human Rights. Company portals Anthropic Meta OpenAI Executives Chloé Bakalar AI Ethics Lead & Member of Technical Staff Tags OpenAI ResponsibleAI Tech Ethical AI