빅테크 AI의 개발 속도 조절 주장, 정말 안전 때문일까
OpenAI, Anthropic, Google 등 대형 AI 기업들이 안전을 이유로 프론티어 AI 개발 속도 조절과 독점금지 면제를 요구했으나, Cohere CEO 아이단 고메즈는 이를 '다른 이름의 카르텔'이라며 시장 진입 장벽 조성과 오픈 웨이트 AI 약화 시도라고 비판했다. 트럼프 대통령은 AI 위협 경고를 허위 주장으로 일축한 반면, 오바마·해리스 등 민주당은 속도 조절과 투명성 강화를 지지하면서 논쟁이 정치권으로까지 확산되고 있다.
모두가 빅 AI의 개발 속도 저하 제안이 정말 안전에 관한 것이라고 확신하지는 않는다.
매티아스 바스티안, 2026년 9월 15일, THE DECODER
핵심 요점
- Anthropic과 OpenAI 같은 AI 연구소들은 안전 리스크를 이유로 프론티어 AI 개발의 조정된 속도 저하와 독점금지 면제를 요구하고 있다.
- Cohere CEO 아이단 고메즈 같은 업계 인사들은 이 이니셔티브를 진입 장벽을 통한 경쟁사 배제와 오픈 웨이트 AI 약화 시도라고 비판한다.
- 정치적으로는 도널드 트럼프 대통령이 AI 위협 경고를 허위 주장(hoax)으로 일축한 반면, 버락 오바마와 카말라 해리스 같은 민주당 인사들은 속도 저하와 더 많은 투명성을 지지한다.
OpenAI, Anthropic, Google은 안전상의 이유로 AI 개발 속도를 늦추자고 주장한다. 하지만 모두가 이를 수긍하는 것은 아니다.
Anthropic CEO 다리오 아모디는 최근 업계와 정부에 프론티어 AI 개발 속도 저하를 조율해 줄 것을 촉구하며, 이를 실현하기 위한 독점금지 면제를 요청했다. 샘 알트만과 일론 머스크 같은 다른 주요 AI 인사들도 이에 동의했다.
비판의 목소리가 거세다.
Cohere CEO, "다른 이름의 카르텔"이라 비판
가장 상세한 반박은 AI 기업 Cohere의 공동창립자이자 CEO인 아이단 고메즈에게서 나왔다. 그는 블로그 포스트에서 이 제안이 규칙을 설정하고 시장을 잠그려는 시도라고 말했다.
고메즈는 강력한 AI 시스템의 독립적 테스트를 지지한다. 하지만 Anthropic의 제안은 훨씬 더 나아간다. 소수의 지배적 연구소들이 독점금지 면제를 받아 공동 표준을 설정하고, 전 세계 다른 모든 개발자들이 그들의 규칙을 따르도록 강제한다는 것이다.
그는 이 제안이 만들어낼 진입 장벽에 특히 비판적이다. 막대한 컴퓨팅 자원, 영구적인 모니터링 인프라, 전담 안전 조직, 내재화된 평가 팀, 그리고 이 모든 것을 관리할 만큼 깊은 정부 인맥이 필요하다는 것이다.
'독립적'이라고 불리는 소수의 평가 기관들은 감사해야 할 바로 그 기업들로부터 자금을 지원받고 있다.
고메즈는 Anthropic의 프레임워크가 리스크를 규모의 함수로 정의한다고 지적한다. 그렇게 되면 가장 큰 시스템을 보유한 기업들만이 리스크를 판단할 자격이 있다고 간주된다. "양의 탈을 쓴 늑대, 다른 이름을 가진 카르텔"이라고 고메즈는 썼다.
그는 안전 경고가 연막이라고 본다. 업계가 가상의 초지능을 놓고 토론하는 동안 "전화 요금보다 싼 음성 복제 도구가 몇 분 만에 노인의 계좌를 털어갈 수 있다."
Hugging Face 엔지니어, "터무니없는 헛소리"라고 비판
오픈 AI 모델의 폭넓은 선택에 비즈니스 모델이 의존하는 회사인 Hugging Face의 머신러닝 엔지니어 닐스 로게는 아모디 등의 발표를 "최근 읽은 것 중 가장 터무니없는 헛소리"라고 불렀다.
로게에 따르면 아모디는 주로 DeepSeek이나 Z.ai 같은 중국 모델을 걱정하며 자신의 경쟁 우위를 보호하기 위해 오픈 웨이트 모델을 제한하려 한다. AI 연구소들은 규모에 대한 거대한 베팅이며, 더 작은 오픈 웨이트 모델이 이를 훼손할 수 있지만, 아직 실제 규모에서 이런 일이 일어나고 있다는 명확한 징후는 없다.
현재의 LLM은 실존적 리스크를 초래할 수 있는 수준과는 거리가 멀다고 로게는 말한다. 그는 또한 OpenAI의 자율 에이전트 모델이 Hugging Face를 해킹한 사건을 지적한다. 막대한 컴퓨팅 자원을 가진 폐쇄형 소스 기업이 그런 일을 저지른 것이다. 오픈소스 모델은 방어에 도움을 주었다. 바로 이 때문에 이 분야에는 닫힌 문이 아니라 투명성과 개방성이 필요하다고 로게는 말한다.
색스, "허가가 필요하다는 척하지 말라"
트럼프 대통령의 백악관 AI·암호화 화이트 차르(총괄 조정관)이자 벤처캐피털리스트인 데이비드 색스는 X(구 트위터)에서 아모디와 알트먼에게 직접 응답했다. 색스는 "합리적인 어떤 지표로 보아도" OpenAI와 Anthropic은 프론티어 지능 분야에서 복점지배(듀오폴리)를 형성하고 있다고 썼다. 공개되지 않은 그들의 모델이 충분히 무섭다면 자발적인 속도 저하는 지지한다는 것이다.
하지만 그 동기가 순수하게 이타적인 것은 아니라고 색스는 주장했다. 두 회사 모두 자사 모델이 심각한 사이버 공격을 가능하게 할 경우 막대한 제품 책임(product liability)에 직면한다. "시장은 이미 예측 불가능하게 행동하는 모델에 벌을 준다."