샘 알트만, 오픈AI 경영 정당화하는 5대 원칙 발표
오픈AI의 샘 알트만 CEO는 AI의 힘을 소수가 아닌 대중에게 분산시키겠다는 취지의 5대 원칙(민주화, 사용자 자율성, 보편적 번영, 회복 탄력성, 적응성)을 발표했습니다. 이 원칙들은 막대한 인프라 투자와 데이터센터 구축 등 오픈AI의 최근 공격적인 비즈니스 결정들을 정당화하는 논리적 기반을 제공합니다. 또한 최근 불거진 미 국방부 계약 및 정부와의 협력에 대한 비판에 대한 간접적인 해명의 성격도 띠고 있습니다.
오픈AI의 CEO가 회사의 미래 방향성을 이끌 5가지 지침 원칙을 발표했습니다. 이는 오픈AI의 다소 이례적인 비즈니스 행보를 합리화하는 논리이기도 합니다.
'우리의 원칙(Our principles)'이라는 제목의 게시물에서 오픈AI의 샘 알트만 CEO는 5가지 지침 원칙을 제시했습니다. 핵심 전제는 다음과 같습니다. 초지능(Superintelligence)에 대한 권력은 소수 기업에 집중되거나 사람들에게 분산될 것입니다. 오픈AI는 후자를 목표로 하고 있다고 밝혔습니다.
주목할 점은 알트만이 대안으로 제시하지 않은 것입니다. 즉, 다양한 제공자가 경쟁하는 다원주의적 환경은 배제되었습니다. 그의 초점은 오직 '접근성', 즉 AGI(범용 인공지능)를 갖춘 최종 사용자에게 맞춰져 있습니다. 이 논리에 따르면, 오픈AI는 중앙 집중적 제공자로 남으면서도 동시에 권력 분산의 매개체라는 프레임을 취할 수 있습니다.
첫 번째 원칙인 '민주화(Democratization)'는 두 가지 요소를 결합합니다. 모든 사람을 위한 AI 접근성 보장과, AI 연구소 단독이 아닌 민주적 과정을 통한 AI 결정 도출입니다. 하지만 AI 연구소들이 슈퍼 PAC(정치활동위원회)를 통해 수백만 달러의 로비 자금을 쏟아붓고 있는 상황에서 이것이 실제로 어떻게 작동할 수 있을지는 불분명합니다. 또한 이는 펜타곤(미 국방부)과의 계약 시 빨간 줄(금지선)을 고수했던 경쟁사 앤스로픽(Anthropic)을 겨냥한 간접적인 비판으로 읽히기도 합니다.
두 번째 원칙인 '사용자 권한 부여(Empowerment)'는 사용자에게 폭넓은 자율성을 부여하며, 이는 치명적인 피해, 국지적 손상 및 '사회적 부식 효과'를 최소화하겠다는 약속과 쌍을 이룹니다. 오픈AI는 의심스러운 경우 신중한 쪽으로 방향을 틀며, 확실한 증거가 쌓일 때만 제한을 완화하겠다고 밝혔습니다.
세 번째 원칙인 '보편적 번영(Universal prosperity)'을 통해 알트만은 다소 '이상해 보이는' 비즈니스 결정들, 즉 상대적으로 적은 수익에도 불구하고 막대한 컴퓨팅 자원을 구매하고, 수직적 통합을 이루며, 전 세계에 데이터센터를 짓는 이유를 정당화합니다. 그의 주장은 AI 인프라 비용이 극적으로 하락해야 한다는 것입니다. 또한 알트만은 AI가 창출하는 가치를 더 광범위하게 분배하기 위해 정부가 새로운 경제 모델을 모색해야 할 수도 있다고 암시했습니다.
점진적 배포는 안전 퍼즐의 한 조각일 뿐입니다.
네 번째 원칙인 '회복 탄력성(Resilience)'은 사회 전반의 접근 방식을 요구합니다. 예를 들어, 병원체 위험의 경우 특정 위협에 관계없이 작동하는 대응책이 필요합니다. 사이버 보안의 경우 오픈소스 소프트웨어 및 핵심 인프라를 보호하기 위해 모델을 신속하게 배포하는 것을 의미합니다. 새로운 기능을 점진적으로 출시하는 '점진적 배포(Iterative deployment)'는 이 접근 방식의 한 요소일 뿐입니다. 기술적 정렬(Alignment)과 안전한 시스템 구축은 여전히 별개의 과제로 남아 있습니다.
알트만은 오픈AI가 정렬, 안전 또는 사회적 문제를 해결하기 위해 정부, 국제 기구 및 기타 AGI 프로젝트와 협력해야 할 단계가 있을 수 있음을 인정했습니다. 오픈AI 재단의 자금 지원은 이러한 작업을 지원하기 위한 것입니다.
다섯 번째 원칙인 '적응성(Adaptability)'은 방향을 바꿀 권리를 명시적으로 보유합니다. 한 가지 가능한 예로, 알트만은 궁극적으로 사용자 권한 부여(Empowerment)보다 더 큰 회복 탄력성(Resilience)을 우선시해야 할 수도 있다고 제안합니다. 그는 GPT-2 가중치 공개를 둘러싼 논쟁을 사례로 들었습니다. 당시 우려들은 돌이켜 보면 과장된 것으로 판명되었지만, 그 과정을 통해 '점진적 배포'라는 전략이 탄생했습니다.
이러한 원칙들은 또한 최근 오픈AI의 비판적인 시각에 대한 간접적인 대응 역할을 하는 것으로 보입니다.