TechCrunch AI • 26일 전

오픈AI 재판, 머스크의 유일한 전문가 증인이 경고하는 AGI 군비 경쟁

IMP

8/10

핵심 요약

일론 머스크가 오픈AI의 영리 추구를 막기 위한 소송에서 유일하게 증언대에 선 AI 전문가 피터 러셀은 AGI(범용 인공지능) 개발에 따른 안전성 위협과 군비 경쟁을 경고했습니다. 오픈AI 측의 반대로 실존적 위협에 대한 증언은 제한되었으나, 이 재판은 기업의 이윤 추구와 AI 안전성 간의 모순적인 현실을 여실히 보여줍니다. 결국 초기 창립자들의 AGI 독점에 대한 두려움이 막대한 자본을 유치하게 만들었고, 이것이 오늘날의 군비 경쟁과 소송으로까지 번진 핵심 배경입니다.

번역된 본문

우리는 언제부터 AI 종말론자들의 주장을 진지하게 받아들여야 할까요? 이는 오픈AI(OpenAI)의 영리 추구 영업을 중단시키려는 일론 머스크의 시도에 깔린 핵심 뉘앙스입니다. 그의 변호사들은 해당 조직이 원래 AI 안전성에 초점을 맞춘 비영리 재단으로 설립되었으나, 이윤을 좇다가 본질을 잃었다고 주장합니다. 이를 입증하기 위해 그들은 구글 딥마인드(Google DeepMind)에 맞서는 공익적인 견제 세력이 필요하다고 강조했던 창립자들의 과거 이메일과 성명을 인용했습니다.

오늘 그들은 단 한 명의 전문가 증인인 피터 러셀(Peter Russell)을 호출했습니다. 그는 수십 년간 AI를 연구해 온 UC 버클리 컴퓨터 과학 교수입니다. 그의 역할은 AI에 대한 배경지식을 제공하고, 이 기술이 우려할 만큼 충분히 위험하다는 점을 확립하는 것이었습니다. 러셀은 2023년 3월 AI 연구를 6개월간 일시 중지할 것을 촉구하는 공개 서한에 공동 서명했습니다. 모순의 한 예로, 머스크는 자신의 영리 목적 AI 연구소인 xAI를 설립하면서도 같은 서한에 서명을 했습니다. 러셀은 배심원과 이본 곤잘레스 로저스(Yvonne Gonzalez Rodgers) 판사에게 사이버 보안 위협부터 정렬(misalignment) 문제, 그리고 범용 인공지능(AGI) 개발의 독식(Winner-take-all) 구조에 이르기까지 AI 개발과 관련된 다양한 위험성이 존재한다고 증언했습니다. 궁극적으로 그는 AGI 추구와 안전성 사이에 긴장 관계가 있다고 말했습니다.

통제되지 않은 AI가 가진 실존적 위협에 대한 러셀의 더 큰 우려는, 오픈AI 측 변호사들의 이의 제기로 인해 판사가 그의 증언 범위를 제한하면서 공개 법정에서 다뤄지지 못했습니다. 하지만 러셀은 오랫동안 AGI에 가장 먼저 도달하기 위해 경쟁하는 전 세계 선도 연구소들이 만들어낸 군비 경쟁 역학을 비판해 왔으며, 정부가 이 분야를 더 엄격하게 규제할 것을 촉구했습니다. 오픈AI의 변호사들은 교차 심문을 통해 러셀이 해당 조직의 기업 구조나 구체적인 안전 정책을 직접 평가한 것은 아니라는 점을 확인하는 데 집중했습니다.

[테크크런치 행사 안내 생략]

하지만 이 기자(그리고 판사, 배심원들도 마찬가지일 것입니다)는 기업의 탐욕과 AI 안전 우려 사이의 관계에 얼마나 가치를 둘 것인지 고민하게 될 것입니다. 사실상 모든 오픈AI 창립자들은 그 혜택을 강조하면서도 AI의 위험성에 대해 강력히 경고했고, 가능한 한 빨리 AI를 구축하려 노력했으며—자신들이 통제할 AI 중심의 영리 기업을 구상했습니다. 외부에서 볼 때 이 사건의 명확한 문제 중 하나는 창립 이후 오픈AI 내부에서 성공하려면 단순히 더 많은 컴퓨팅 자본 지출이 필요하다는 사실을 깨달았다는 점입니다. 그 막대한 자금은 영리를 추구하는 투자자들에게서만 올 수 있었습니다. 단일 조직의 손에 AGI가 들어가는 것에 대한 창립 팀의 두려움은 그들이 자본을 찾게 만들었고, 결국 그 자본이 팀을 분열시켜 오늘날 우리가 아는 군비 경쟁을 만들어냈으며—이번 소송에까지 이르게 했습니다. 같은 역학이 이미 국가적 차원에서도 벌어지고 있습니다. 버니 샌더스(Bernie Sanders) 상원의원의 데이터 센터 건설에 대한 모라토리엄(유예)을 부과하는 법안 추진은 머스크, 샘 알트만(Sam Altman), 제프리 힌튼(Geoffrey Hinton) 등이 제기한 AI 공포를 인용하고 있습니다. 무역 단체인 데이터 혁신 센터(Center for Data Innovation)에서 일하는 호든 오마르(Hoden Omar)는 샌더스가 그들의 희망은 배제한 채 공포만을 인용한 것에 반대하며, 테크크런치에 "왜 대중이 테크 억만장자들이 하는 말을 무시하다가도, 그들의 말이 불안정한 논증의 빈틈을 메우는 데 동원될 때만 그것을 수용해야 하는지 알 수 없다"고 말했습니다. 지금 양측은...

원문 보기

원문 보기 (영어)

When do we take AI doomers seriously? That's a key subtext of Elon Musk's attempt to shut down OpenAI's for-profit AI business. His attorneys argue that the organization was set up as a charity focused on AI safety, and lost its way in pursuit of lucre. To prove that, they cite old emails and statements from the organization's founders about the need for a public-spirited counterweight to Google DeepMind. Today, they called their only expert witness: Peter Russell, a University of California, Berkeley computer science professor who has studied AI for decades. His job was to offer background on AI, and establish that this technology is dangerous enough to worry about. Russell co-signed an open letter in March 2023 calling for a six-month pause in AI research. In a sign of the contradictions here, Musk also signed the same letter, even as he was launching xAI, his own for-profit AI lab. Russell told jurors and Judge Yvonne Gonzalez Rodgers that there were a variety of risks associated with the development of AI, ranging from cybersecurity threats to problems with misalignment and the winner-take-all nature of developing Artificial General Intelligence (AGI). Ultimately, he said that there was a tension between the pursuit of AGI and safety. Russell's larger concerns about the existential threats of unconstrained AI didn't get aired in open court after objections from OpenAI's attorneys led the judge to limit Russell's testimony. But Russell has long been a critic of the arms-race dynamic created by frontier labs around the globe competing to reach AGI first, and called for governments to regulate the field more tightly. OpenAI's attorneys spent their cross-examination establishing that Russell wasn't directly evaluating the organization's corporate structure or its specific safety policies. Techcrunch event Meet your next investor or portfolio startup at Disrupt Your next round. Your next hire. Your next breakout opportunity. Find it at TechCrunch Disrupt 2026, where 10,000+ founders, investors, and tech leaders gather for three days of 250+ tactical sessions, powerful introductions, and market-defining innovation. Register now to save up to $410. Meet your next investor or portfolio startup at Disrupt Your next round. Your next hire. Your next breakout opportunity. Find it at TechCrunch Disrupt 2026, where 10,000+ founders, investors, and tech leaders gather for three days of 250+ tactical sessions, powerful introductions, and market-defining innovation. Register now to save up to $410. San Francisco, CA | October 13-15, 2026 REGISTER NOW But this reporter (as well as the judge and the jurors) will be weighing how much value to put on the relationship between corporate greed and AI safety concerns. Virtually every one of the OpenAI founders have strenuously warned about the risks of AI, while also emphasizing the benefits, attempting to build AI as fast as possible — and hatching plans for AI-focused for-profit enterprises they would control. From the outside, a clear issue here is the growing realization inside OpenAI after its founding that the organization simply needed more compute spend if it was to succeed. That money could only come from for-profit investors. The founding team's fear of AGI in the hands of a single organization pushed them to seek the capital that ultimately tore the team apart, creating the arms race we know today—and bringing us to this lawsuit. The same dynamic is already playing out at a national level: Senator Bernie Sanders' push for a law imposing a moratorium on data center construction cites AI fears enunciated by Musk, Sam Altman, Geoffrey Hinton and others. Hoden Omar, who works at the trade organization the Center for Data Innovation, objected to Sanders citing their fears without their hopes, telling TechCrunch that "it is unclear why the public should discount everything tech billionaires say except when their words can be recruited to fill gaps in a precarious argument." Now, both sides of the case are asking the court to do just that: take part of Altman and Musk's arguments seriously, but discount the parts that are less useful for their legal argument. Topics AI When you purchase through links in our articles, we may earn a small commission . This doesn’t affect our editorial independence. Tim Fernholz Senior Reporter Tim Fernholz is a journalist who writes about technology, finance and public policy. He has closely covered the rise of the private space industry and is the author of Rocket Billionaires: Elon Musk, Jeff Bezos and the New Space Race. Formerly, he was a senior reporter at Quartz, the global business news site, for more than a decade, and began his career as a political reporter in Washington, D.C. You can contact or verify outreach from Tim by emailing tim.fernholz@techcrunch.com or via an encrypted message to tim_fernholz.21 on Signal. View Bio May 27 Athens, Greece StrictlyVC Athens is up next. Hear unfiltered insights straight from Europe’s tech leaders and connect with the people shaping what’s ahead. Lock in your spot before it’s gone. REGISTER NOW Most Popular This tiny, magnetic e-reader could stop you from doomscrolling Amanda Silberling Uber wants to turn its millions of drivers into a sensor grid for self-driving companies Connie Loizos Y Combinator alum Skio sells for $105M cash, only raised $8M, founder says Julie Bort Hackers are actively exploiting a bug in cPanel, used by millions of websites Zack Whittaker Elon Musk testifies that xAI trained Grok on OpenAI models Tim Fernholz Amazon, Meta join fight to end Google Pay, PhonePe dominance in India Jagmeet Singh On the stand, Elon Musk can't escape his own tweets Tim Fernholz

오픈AI 소송 일론 머스크 AI 안전성 AGI 군비 경쟁 기술 규제