오픈AI 안전 연구원 이탈 이유, 알트먼의 '감' 때문이었다
샘 알트먼이 뉴요커와의 인터뷰에서 자신의 스타일이 전통적인 AI 안전 분위기와 맞지 않아 연구원들이 떠났다고 인정했습니다. 이러한 갈등은 핵심 안전 연구진들이 퇴사하여 경쟁사인 앤스로픽을 설립하는 결과를 낳았습니다. 최근 펜타곤과의 계약 체결 시 내부 반발에 무심한 태도를 보인 점 등 알트먼의 상황에 따른 변화와 도덕적 무관심이 조직 이탈의 핵심 원인으로 지목됩니다.
오픈AI의 핵심 안전 연구진 이탈에 대한 이유가 마침내 밝혀졌습니다. 바로 샘 알트먼(Sam Altman)의 '감(vibes)' 때문이었습니다.
새로운 뉴요커(The New Yorker) 프로필 인터뷰에서 샘 알트먼은 왜 그토록 많은 안전 연구원들이 오픈AI를 떠났는지에 대해 설명했습니다. 알트먼은 "나의 분위기가 전통적인 AI 안전 분야의 것들과는 본질적으로 잘 맞지 않는다"라고 말했습니다.
아이러니하게도 이러한 엇나간 분위기는 오픈AI의 최대 경쟁사를 탄생시키는 계기가 되었습니다. 바로 이러한 우려 때문에 퇴사한 전 오픈AI 안전 연구원들이 모여 앤스로픽(Anthropic)을 설립한 것입니다.
이는 오픈AI의 상업화 노선과 안전 우려 진영 사이에 오랫동안 끓어오르던 불화를 보여주는 가장 적나라한 설명입니다. 회사는 안전에 집중하는 팀들을 해산시켰고, 안전 조치를 축소했다는 의혹을 받고 있습니다.
오픈AI가 최근 펜타곤과 계약을 체결한 후 직원들이 우려를 제기했을 때, 알트먼은 매우 직설적으로 반응했습니다. 그는 "어쩌면 당신은 이란 공격은 좋았고 베네수엘라 침공은 나빴다고 생각할지도 모릅니다. 하지만 당신이 그 문제에 대해 의견을 제시할 수는 없습니다"라고 잘라 말했습니다.
전 이사회 멤버에 따르면, 100회 이상의 인터뷰와 내부 문서를 바탕으로 한 재미있게 읽을 수 있는 이 프로필은 알트먼을 극도로 양극화된 인물, 기쁘게 해주려 하지만 잠재적인 기만의 결과에는 무관심한 인물로 묘사합니다.
알트먼의 생각은 다음과 같습니다. "어떤 사람들이 원하는 리더는 자신이 생각하는 것에 대해 절대적으로 확신하고, 그것을 고수하며, 변하지 않는 사람이라고 생각합니다. 하지만 우리는 변화가 극도로 빠르게 일어나는 분야, 영역에 있습니다." 이는 그의 변화무쌍한 약속들을 묘사한 것입니다.
한 가지 좋은 예가 있습니다. 2019년, 알트먼은 GPT-2가 너무 위험하다는 이유로 전체 공개에 대해 공개적으로 경고했습니다. 그러나 불과 몇 년 후, 그는 수많은 사람들에게 몇 배나 더 강력한 모델을 무료로 제공했습니다.