AI의 규칙은 누가 정하는가
Cohere 공동창립자 에이단 고메즈(Aidan Gomez)는 소수 실리콘밸리 대형 AI 기업들이 '안전'을 명분으로 경쟁 규칙을 왜곡하고 전 세계 AI 표준을 독점하려 한다고 비판한다. 그는 과거 신용평가사 카르텔과 유럽 자동차 독점 면제 사례를 들며, 강력한 안전 기준과 incumbent 독점은 별개임을 지적한다. AI 가드레일 자체가 아니라 누가 그 규칙을 쓰고 누구의 이익을 보호하는가가 핵심 쟁점이라는 주장이다.
에이단 고메즈(Aidan Gomez), Cohere 공동창립자 겸 CEO의 관점
인공지능은 우리가 살아가는 세상을 다시 만들고 있다. 한 세대 안에 우리가 의약품을 발견하고, 전력망을 관리하고, 국가 기반시설을 보호하는 방식은 완전히 변모할 것이다. 많은 사람들이 이미 이를 깨닫고 그 미래를 책임감 있게 만들기 위해 노력하고 있다. 많은 사람들은 다가오는 변화의 규모와 속도를 과소평가하고 있다. 그러나 일부는 이러한 변화를 예견할 수 있다고 주장하며 자신들의 목적을 위해 이를 이용한다.
여기 아무도 충분히 명확하게 묻지 않는 질문이 있다. 실리콘밸리의 소수 선별된, 시장을 지배하는 AI 기업들이 세대를 바꾸는 기술의 규칙과 안전 기준을 전 세계를 위해 정할 자격이 있는가? 동시에 이 기술이 얼마나 빨리 발전할지도 결정하면서 말이다. 우리는 이전에 그런 방식을 시도했고 결과는 매우 좋지 않았다. 다시 한번 대중을 보호한다는 명분 아래 공포를 조장하며, 이 올리고폴리(과점 기업)들은 이제 경쟁 규칙을 왜곡하고 모든 다른 이들의 조건을 좌우할 권한을 요구하고 있다. 양의 탈을 쓴 늑대, 다른 이름의 카르텔이다.
나는 AI 기술이 세상에 이익을 가져올 잠재력을 믿으며, 위험을 과소평가하지도 않는다. 나는 은행, 통신망, 국방부에 배치되는 AI 시스템을 구축하는 회사를 운영하고 있다. 이들은 가장 위험도가 높은 환경들인데, 이 분야에서의 실패는 개별 사용자를 넘어 금융 시스템, 핵심 기반시설, 국가 안보, 필수 서비스를 대규모로 붕괴시킬 수 있기 때문이다. 당신의 코드에서 취약점을 찾아내는 것과 동일한 능력이 타인의 코드에서도 취약점을 찾을 수 있으며, 사이버 공격은 방어가 개선되는 속도보다 더 빠르게 저렴해지고 있다. 그 격차는 우리만큼 당신도 걱정해야 한다.
AI에는 가드레일이 필요하다. 그것이 논쟁의 대상이 아니며, 한 번도 그랬던 적이 없다. 논쟁은 누가 그것을 작성하는가, 누가 참여할 수 있는가, 그리고 그 규칙이 누구의 이익을 보호하는가에 있다. 진짜 질문은 우리가 과학적 증거에 기반해 자유롭게 선택해야 하는지, 아니면 인류 역사상 가장 중대한 기술의 고삐를 소수의 실리콘밸리 임원들에게 넘겨야 하는지에 관한 것이다.
우리는 이전에도 이 길을 걸었다
대형 연구소들이 밀어붙이는 자기 이해에 맞는 프레임워크를 분석하고 대안에 대한 아이디어를 제시하기 전에, 최근의 과거에서 몇 가지 교훈을 얻고 '카르텔'이라는 단어에 대해 생각해 보자. 그 역사는 구체적이며, 이것이 정확한 용어이기 때문이다.
1975년 미국 증권거래위원회(SEC)는 자본 규정을 위해 신뢰할 수 있는 채권 등급이 필요했다. SEC는 세 회사를 '전국공인통계등급기관(NRSRO)'으로 지정했고, 다른 회사가 그 지위를 얻을 수 있는 기준은 공개한 적이 없다. 이들은 정부의 공인을 받은 외부 평가기관이었지만, 자신들이 평가하는 증권을 발행하는 당사자에게서 돈을 받으며, 규제기관 스스로 만든 장벽 뒤에 앉아 있었다. 25년이 지나도 여전히 평가기관은 세 곳뿐이었다. 그리고 이들은 서브프라임 모기지 증권에 트리플A 등급을 부여하다 전 세계 경제를 거의 무너뜨릴 뻔했다.
유럽은 1985년 이 실험을 반복했다. 자동차 제조사들은 현대 차량은 복잡하고 안전이 중요한 기계이므로 제조사가 누가 판매·정비 자격을 갖는지 통제해야 한다며 광범위한 반독점 면제인 '자동차 블록 면제(Motor Vehicle Block Exemption)'를 로비했다. 이후의 규제는 안전하고 신뢰할 수 있는 차량이라는 명분 아래 제조사가 시설, 장비, 직원 교육 기준을 정하도록 허용했다. 그러나 그 뒤에 따라온 것은 더 안전한 자동차가 아니었다. 유럽위원회는 이를 철회하는 데 약 25년의 개혁이 걸렸고, 처음부터 자명했어야 할 것을 확립했다. 즉, 기존 기업 incumbent들에게 독점을 안겨주지 않고도 엄격한 안전 기준을 유지할 수 있다는 것이다.
어느 경우에도 카르텔을 만들려는 의도는 없었다. 두 경우 모두 명목상의 목표는 안전이었다. 하지만 결과는 기존 기업을 보호하고 경쟁을 제한하는 시장 구조였으며, 그 모든 것이 안전이라는 명분 아래 이루어졌다.