메뉴
BL
The Decoder • 38일 전

앤스로픽 CEO "AI는 본질적으로 권력을 집중시킨다"

IMP
7/10
핵심 요약

X(트위터)에서 앤스로픽 CEO 다리오 아모데이와 투자자 게빈 베이커, 메타 연구자 얀 르쿤, 전 백악관 AI 자문 데이비드 삭스 등이 AI 규제와 권력 집중 문제를 두고 공개 논쟁을 벌였다. 아모데이는 규제가 오히려 대형 연구소를 늦추고 중소기업에 유리하게 설계됐으며, 오픈 모델은 결국 컴퓨팅 파워와 AI 칩을 가진 곳으로 권력을 옮길 뿐이라고 주장했다. 이 논쟁은 AI 안전성 대 오픈소스 진영 간 규제 방향을 둘러싼 핵심 갈등을 보여준다.

번역된 본문

AI 규제와 권력 집중을 둘러싼 공개 논쟁이 X(트위터)에서 벌어졌다. 투자자 게빈 베이커, 전 백악관 자문 데이비드 색스(David Sacks), 메타 연구자 얀 르쿤은 앤스로픽 CEO 다리오 아모데이가 공포 마케팅을 통해 규제적 이점을 확보하려 한다고 비난했다.

논쟁의 시작은 올인 팟캐스트(All-In Podcast)에서였다. 투자자 게빈 베이커는 아모데이가 내부적으로 앤스로픽이 언젠가 정부를 제외하면 세계에서 유일하게 남을 민간 기업이 될 수 있다고 말했다고 주장했다. 앤스로픽 연구자 술토 더글러스는 이런 주장을 "완전히 사실이 아니다"라고 일축하며, 경제적 권력 집중이야말로 앤스로픽이 가장 두려워하는 것이라고 반박했다. AI 시장은 이미 모든 대기업이 더 똑똑하고 저렴한 모델을 만들기 위해 경쟁하는 세계에서 가장 경쟁이 치열한 시장이라는 것이다.

베이커는 논쟁의 핵심을 이렇게 정리했다. AI가 잠재적으로 위험하다면 두 가지 입장이 가능하다. 너무 위험해서 널리 퍼뜨리지 말고 소수 기업과 정치인에게 집중시키거나, 너무 위험해서 집중시키면 안 되므로 최대한 널리 퍼뜨리는 것이다. 베이커는 절대적 권력이 인류를 자비롭게 돌봐주기를 기대하는 도박은 역사상 좋은 결말로 끝난 적이 거의 없다고 지적했다.

전 메타 수석 연구자 얀 르쿤도 오픈 AI 진영을 확고히 지지했다. 인쇄기와 인터넷처럼 AI는 지식 접근성을 높여 인간 지능을 증폭시킨다고 그는 말했다. 사회가 다양한 언론이 필요하듯, 서로 다른 가치관을 가진 다양한 AI 시스템이 필요하다는 것이다. 결국 한 사람에게 좋은 AI는 다른 사람에게 나쁜 AI가 된다.

아모데이의 반박

긴 스레드 논쟁에 결국 아모데이 본인이 참여했다. 올해 단 네 번째 X 포스팅에서 아모데이는 이런 구도가 거짓 선택이라고 반박했다. 실리콘밸리 일부에서는 규제가 곧 규제 포획(regulatory capture), 즉 업계가 자신에게 유리한 규칙을 스스로 작성하는 것이라는 통념이 있지만, 이는 너무 단순한 생각이라는 것이다. 훌륭한 제도가 권력을 개인이 아닌 아이디어에 기반하게 만들 때, 규제는 기업 권력을 통제하고 일반 시민을 도울 수 있다고 그는 주장했다. 그래서 앤스로픽은 의도적으로 선도적 대형 연구소를 늦추고 중소기업에 유리한 정책을 설계한다는 것이다. 그 증거로 아모데이는 캘리포니아 SB53 법을 들었는데, 이 법은 매출이나 학습 비용 기준 이하의 기업은 의무를 완전히 면제해 준다.

가중치(weight)가 무료로 공개되는 오픈 모델도 문제를 부분적으로만 해결한다고 그는 주장했다. 오픈 모델은 권력 집중을 가장 많은 컴퓨팅 파워와 AI 칩을 보유한 주체로 옮길 뿐이며, 결국 다시 대형 연구소로 돌아간다는 것이다. AI는 규제 때문이 아니라 주로 스케일링 법칙(scaling laws) 때문에 구조 자체가 집중화된다고 그는 말했다.

최근까지 백악관 AI 자문을 지낸 투자자 데이비드 색스는 9부분에 걸친 답글로 아모데이의 주장을 반박했다. 눈에 띄는 것은 아모데이가 충분히 반박할 수 있었음에도 베이커의 보도를 실제로 부정하지 않는다는 점이라고 그는 지적했다. 아모데이의 '규제 포획' 반론은 허수아비 논증이라고 색스는 주장했다.

원문 보기
원문 보기 (영어)
Anthropic CEO says AI centralizes by nature and open models just shift power to whoever owns the chips Maximilian Schreiner View the LinkedIn Profile of Maximilian Schreiner Aug 18, 2026 WSJ Key Points On X, experts like investor Gavin Baker and Meta researcher Yann LeCun accuse Anthropic CEO Dario Amodei of pushing AI rules through fearmongering. Those rules, they say, would mainly benefit his own company and centralize power. Amodei rejects this and argues that his regulatory proposals are designed to slow down big labs. Open AI models aren't a solution, he says, because they just shift market power toward the providers with the most computing power. Former government adviser David Sacks counters that Anthropic deliberately hires former officials to shape laws in its own favor. An approval agency for AI models, which Amodei has called for, would also weaken the US against China. Ask about this article… Search . An open fight over AI regulation and the concentration of power has broken out on X. Investor Gavin Baker, former White House adviser David Sacks, and Meta researcher Yann LeCun accuse Anthropic CEO Dario Amodei of using fear rhetoric to buy himself a regulatory advantage. It started with a claim on the All-In Podcast . Investor Gavin Baker said Anthropic CEO Dario Amodei had told people internally that the company could one day be the only private firm left in the world, with nothing beside it but governments. Anthropic researcher Sholto Douglas called the account "totally false." Economic concentration of power, he said, is exactly what Anthropic fears most. The AI market is already the most competitive in the world, he argued, because every big company is racing to build smarter and cheaper models. Baker then spelled out the heart of the dispute: If AI is potentially dangerous, there are two basic stances. Either you consider it too dangerous to spread widely and concentrate it among a few companies and politicians, or you consider it too dangerous to concentrate and spread it as far as possible. In Baker's view, betting that some absolute power will benevolently take care of humanity has rarely ended well throughout history. Ad Former Meta chief researcher Yann LeCun also came down firmly on the side of open AI. Like the printing press and the internet, he said, AI amplifies human intelligence by improving access to knowledge. Societies need a wide diversity of AI systems with different values, for the same reason they need a diverse press. In the end, one person's good AI stands against another's bad AI. Ad What Amodei tells his critics The long thread eventually drew in Amodei himself. In only his fourth X post of the year, Amodei called this framing a false choice. In parts of Silicon Valley, he said, the going assumption is that regulation automatically means regulatory capture, meaning an industry writes its own rules to its own benefit. That's too simple. Regulation can also rein in corporate power and help ordinary citizens, he argued, when good institutions anchor power in ideas rather than individuals. That's why Anthropic deliberately designs its proposals to slow down leading labs and favor smaller ones, he said. As proof, Amodei pointed to California's SB53 law , which fully exempts companies below a revenue or training-cost threshold from its requirements. Open models, whose weights are freely available, only partly solve the problem, he argued. They just shift the concentration toward whoever has the most computing power and the most AI chips, which brings it right back to the big labs. AI is centralizing by its very structure, he said, mainly because of the scaling laws and not because of regulation. Ad Investor David Sacks, until recently the White House AI adviser, hit back at Amodei's account in a nine-part reply . What stands out, he said, is that Amodei doesn't actually dispute Baker's report, even though he easily could. Amodei's regulatory-bubble argument is a straw man, Sacks argued, since almost no one really thinks every regulation is capture. He pointed to Nobel laureate George Stigler's definition, under which an industry acquires the rules and runs them mainly for its own benefit, while the benefit to the broader public stays scattered and unorganized. Anthropic understands this mechanism perfectly, Sacks said, and has hired several former AI officials from the Biden administration while building out a large government apparatus. He mocked Amodei's proposal for a federal agency to review top models before release, calling it an approval office for AI. A review process like that would create long waiting lines and slow the US down against China, which won't adopt such requirements, Sacks said. Ad Baker, for his part, holds that the debate is already over: Almost every major company except Anthropic has signed Jensen Huang's letter backing open models. Ad AI News Without the Hype – Curated by Humans Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section. Subscribe now Source: All-In Podcast / Baker's claim | Sholto Douglas / Anthropic's response | Gavin Baker / AI concentration | Yann LeCun / Open AI | Dario Amodei / Regulation | David Sacks / Reply