앤스로픽 CEO "AI는 본질적으로 권력을 집중시킨다"
X(트위터)에서 앤스로픽 CEO 다리오 아모데이와 투자자 게빈 베이커, 메타 연구자 얀 르쿤, 전 백악관 AI 자문 데이비드 삭스 등이 AI 규제와 권력 집중 문제를 두고 공개 논쟁을 벌였다. 아모데이는 규제가 오히려 대형 연구소를 늦추고 중소기업에 유리하게 설계됐으며, 오픈 모델은 결국 컴퓨팅 파워와 AI 칩을 가진 곳으로 권력을 옮길 뿐이라고 주장했다. 이 논쟁은 AI 안전성 대 오픈소스 진영 간 규제 방향을 둘러싼 핵심 갈등을 보여준다.
AI 규제와 권력 집중을 둘러싼 공개 논쟁이 X(트위터)에서 벌어졌다. 투자자 게빈 베이커, 전 백악관 자문 데이비드 색스(David Sacks), 메타 연구자 얀 르쿤은 앤스로픽 CEO 다리오 아모데이가 공포 마케팅을 통해 규제적 이점을 확보하려 한다고 비난했다.
논쟁의 시작은 올인 팟캐스트(All-In Podcast)에서였다. 투자자 게빈 베이커는 아모데이가 내부적으로 앤스로픽이 언젠가 정부를 제외하면 세계에서 유일하게 남을 민간 기업이 될 수 있다고 말했다고 주장했다. 앤스로픽 연구자 술토 더글러스는 이런 주장을 "완전히 사실이 아니다"라고 일축하며, 경제적 권력 집중이야말로 앤스로픽이 가장 두려워하는 것이라고 반박했다. AI 시장은 이미 모든 대기업이 더 똑똑하고 저렴한 모델을 만들기 위해 경쟁하는 세계에서 가장 경쟁이 치열한 시장이라는 것이다.
베이커는 논쟁의 핵심을 이렇게 정리했다. AI가 잠재적으로 위험하다면 두 가지 입장이 가능하다. 너무 위험해서 널리 퍼뜨리지 말고 소수 기업과 정치인에게 집중시키거나, 너무 위험해서 집중시키면 안 되므로 최대한 널리 퍼뜨리는 것이다. 베이커는 절대적 권력이 인류를 자비롭게 돌봐주기를 기대하는 도박은 역사상 좋은 결말로 끝난 적이 거의 없다고 지적했다.
전 메타 수석 연구자 얀 르쿤도 오픈 AI 진영을 확고히 지지했다. 인쇄기와 인터넷처럼 AI는 지식 접근성을 높여 인간 지능을 증폭시킨다고 그는 말했다. 사회가 다양한 언론이 필요하듯, 서로 다른 가치관을 가진 다양한 AI 시스템이 필요하다는 것이다. 결국 한 사람에게 좋은 AI는 다른 사람에게 나쁜 AI가 된다.
아모데이의 반박
긴 스레드 논쟁에 결국 아모데이 본인이 참여했다. 올해 단 네 번째 X 포스팅에서 아모데이는 이런 구도가 거짓 선택이라고 반박했다. 실리콘밸리 일부에서는 규제가 곧 규제 포획(regulatory capture), 즉 업계가 자신에게 유리한 규칙을 스스로 작성하는 것이라는 통념이 있지만, 이는 너무 단순한 생각이라는 것이다. 훌륭한 제도가 권력을 개인이 아닌 아이디어에 기반하게 만들 때, 규제는 기업 권력을 통제하고 일반 시민을 도울 수 있다고 그는 주장했다. 그래서 앤스로픽은 의도적으로 선도적 대형 연구소를 늦추고 중소기업에 유리한 정책을 설계한다는 것이다. 그 증거로 아모데이는 캘리포니아 SB53 법을 들었는데, 이 법은 매출이나 학습 비용 기준 이하의 기업은 의무를 완전히 면제해 준다.
가중치(weight)가 무료로 공개되는 오픈 모델도 문제를 부분적으로만 해결한다고 그는 주장했다. 오픈 모델은 권력 집중을 가장 많은 컴퓨팅 파워와 AI 칩을 보유한 주체로 옮길 뿐이며, 결국 다시 대형 연구소로 돌아간다는 것이다. AI는 규제 때문이 아니라 주로 스케일링 법칙(scaling laws) 때문에 구조 자체가 집중화된다고 그는 말했다.
최근까지 백악관 AI 자문을 지낸 투자자 데이비드 색스는 9부분에 걸친 답글로 아모데이의 주장을 반박했다. 눈에 띄는 것은 아모데이가 충분히 반박할 수 있었음에도 베이커의 보도를 실제로 부정하지 않는다는 점이라고 그는 지적했다. 아모데이의 '규제 포획' 반론은 허수아비 논증이라고 색스는 주장했다.