오픈AI, "모든 것을 자동화하는 건 우리가 원하는 미래가 아니다"
오픈AI가 2028년까지 완전 자율적인 AI 연구 시스템 구축이라는 목표를 철회하고, 인간과 AI가 협력하는 '탠덤(Tandem)' 방식으로 전환합니다. 이는 인간의 역할을 완전히 대체하는 것에 대한 사회적 우려와 안전 문제를 반영한 결과입니다. 또한, 오픈AI는 필요할 경우 최첨단 AI 개발 속도를 조절할 수 있는 국제 기구 설립을 제안하며, 단순한 모델 제공사를 넘어 기업의 업무 프로세스에 AI를 직접 구축해 주는 실질적인 도입 파트너로 전략을 수정했습니다.
오픈AI는 2028년까지 완전 자율적인 AI 연구를 목표로 하던 방침에서 물러서며, 이제는 인간과 기계 간의 '협력(Tandem)'을 강조하고 있습니다. CEO 샘 알트만(Sam Altman)과 수석 연구원 야쿠브 파초키(Jakub Pachocki)는 필요할 경우 최첨단 AI 개발을 늦출 수 있는 국제 기구의 설립을 촉구했습니다.
작년 가을, 오픈AI는 야심 찬 목표를 제시했습니다. 바로 2028년 3월까지 자체적으로 연구를 수행할 수 있는 완전 자율적인 AI 시스템을 구축하겠다는 것이었습니다. 그러나 샘 알트만과 야쿠브 파초키가 작성한 새로운 블로그 게시물은 훨씬 더 신중한 어조를 띠고 있습니다.
전면적인 자동화 대신, 해당 게시물은 다음과 같이 밝혔습니다. "우리의 내부적인 믿음은 2028년 3월이면 우리 연구원들과 AI 시스템이 협력(Tandem)하여 연구의 상당 부분을 수행하게 될 것이라는 점입니다."
이러한 변화가 기술적인 이유인지 사회적인 이유인지는 공개적인 질문으로 남아있습니다. 하지만 알트만과 파초키는 인간의 업무를 완전히 자동화하는 것에 대해 명확히 반대하는 입장을 취하며, 이를 사회적 우려로 규정했습니다. "모든 것을 완전히 자동화하는 것은 우리가 원하는 미래가 아닙니다. 그것은 보람이 없을 것이며 위험할 것입니다. […] 인간의 핵심적인 장기적 역할은 '무엇이 할 가치가 있는지'를 결정하는 것입니다."
AI 시스템이 더욱 능력을 갖추게 될수록 방향성 설정, 균형점(Tradeoffs) 도출, 판단 적용 등 인간의 역할은 더욱 중요해집니다.
오픈AI, AI 개발 속도를 늦출 수 있는 국제 기구 촉구
동시에 오픈AI는 "AI가 AI 연구를 수행하는 것이 향후 몇 년 내에 발전 속도를 결정하는 결정적인 요인이 될 것"이라고 주장합니다.
몇 일전 앤스로픽(Anthropic)이 그랬던 것처럼, 오픈AI 역시 이제는 AI 개발 속도를 늦추자는 아이디어를 조심스럽게 꺼내 들었습니다. 앤스로픽은 개발 일시 정지 옵션을 요청한 바 있습니다.
알트만과 파초키는 선도적인 AI 노력을 조정하고 파국적인 위험을 줄일 수 있는 국제 기구의 설립을 제안했습니다. 이 기구는 "사회적 회복탄력성, 안전성, 그리고 정렬(Alignment)이 이에 발맞춰 유지될 수 있도록, 필요한 경우 최첨단 개발을 늦추는 등의 조율된 행동을 가능하게 해야 합니다."
이러한 요구는 오픈AI 자체의 매우 야심 찬 목표들과 다소 어색하게 공존합니다. 오픈AI는 같은 블로그 게시물에서 '자동화된 AI 연구원 구축', '경제 가속화', '지구상의 모든 사람에게 개인용 AGI 제공'이라는 세 가지 핵심 목표를 제시했습니다.
알트만과 파초키는 현재 시점을 오픈AI의 제3단계 시작으로 묘사했습니다. 첫 번째 단계는 기초 연구에 집중했습니다. 두 번째 단계에서는 회사를 제품 비즈니스로 성장시켰습니다. 이제 그 목표는 모든 사람과 조직이 혜택을 누릴 수 있도록 고도화된 AI를 '풍족하고, 저렴하고, 안전하고, 유용하며, 쉽게' 만드는 것입니다.
이들은 "최첨단 기능(Capability)은 우리가 해야 할 일의 일부일 뿐입니다. 더 큰 과제는 그 능력을 사람들이 실제로 잘 살아가는 데 사용할 수 있는 도구로 전환하는 것입니다"라고 적었습니다.
이러한 사고방식은 새롭게 설립된 자회사 'DeployCo'의 논리와 동일하며, 오픈AI가 단순한 모델 제공업체에서 실질적인 도입 파트너로 전략적 전환을 꾀하는 것과 일치합니다. DeployCo는 엔지니어들을 기업에 직접 파견하여 업무 흐름(Workflow)에 AI를 내재화하는 역할을 맡게 됩니다.
또한 이는 단순히 챗봇을 제공하는 것보다 AI 실제 비즈니스 도입(Implementation)이 훨씬 더 어렵다는 점과, 오픈AI와 앤스로픽이 향후 몇 달 동안 필요로 할 수익 성장을 뒷받침할 만큼 충분히 빠르고 명확한 투자 대비 수익(ROI)을 가지고 AI 채택이 이루어지지 않을 수 있다는 사실을 암묵적으로 인정하는 것입니다.