미국 정부의 안보 우려로 인해 안스로픽(Anthropic)의 최신 AI 모델이 전면 출고 통제를 받게 된 사건은, 과거 암호화 및 스파이웨어 통제 사례가 보여주었던 실패를 반복할 위험에 처해 있습니다. 특히 한국 통신사를 통한 중국과의 연계 의혹 및 아마존의 탈옥(Jailbreak) 발견 보고가 이번 조치의 결정적 계기가 되었으며, 이는 향후 글로벌 AI 기업들의 수출 규제 기준을 정립하는 중요한 선례이자 시험대가 될 것입니다.
번역된 본문
지난 금요일, 명시되지 않은 국가 안보 우려를 이유로 미국 백악관은 안스로픽(Anthropic)에 미국 외부는 물론 국내에 있는 외국인에게도 강력한 AI 모델인 페이블(Fable)과 미토스(Mythos) 수출을 제한하라고 명령했습니다. 직후 이 AI 거인은 두 모델의 서비스를 급히 중단했고, 현재 모든 이용자가 일주일째 접근하지 못하는 상태입니다. 이 사건은 미국 정부가 이전에 암호화(Encryption)와 스파이웨어를 통제하려 시도했던 것처럼, 수출 통제를 통해 최첨단 AI를 봉쇄할 수 있을지에 대한 첫 번째 실전 테스트입니다. (과거의 시도는 매우 엇갈린 결과를 낳았었습니다.) 다소 과장되게 들릴지 몰라도, 이 대치 상황이 어떻게 해결되느냐에 따라 안스로픽의 해외 시장 진출뿐만 아니라 다른 AI 연구소들이 지켜야 할 새로운 규칙이 만들어질 것입니다.
먼저 배경을 살펴보겠습니다. 안스로픽이 4월에 미토스를 출시한 이래, 이 회사는 이 모델을 너무 널리 배포하면 인터넷에 큰 혼란을 일으킬 수 있는 '인터넷 종말(Doomsday) 사이버 머신'처럼 마케팅했습니다. 이것이 바로 규제 이전에도 검증을 거친 150여 개의 기업 및 정부 기관만 접근할 수 있었던 이유입니다. 당시의 목적은 악의적인 공격자들이 미토스와 같은 수준의 능력을 갖추기 전에, 방어자들이 자사의 소프트웨어와 서비스를 안전하게 보호하도록 돕는 것이었습니다.
그렇다면 무엇이 이번 수출 금지 조치를 촉발했을까요? 보도에 따르면 두 가지 사건이 겹쳤습니다. 첫째, 안스로픽이 제한적 파트너 프로그램을 통해 한국의 한 통신사에 미토스에 대한 접근 권한을 부여했는데, 미국 당국이 이 회사를 중국과 관련이 있다고 의심하여 경계심을 키웠습니다. (언론을 통해 SK텔레콤으로 알려진 이 회사는 중국과의 어떠한 연관성도 부인하고 있습니다.) 둘째, 아마존의 앤디 재시(Andy Jassy) CEO가 자사 연구진이 페이블 5의 안전장치를 우회하는 방법을 발견했다고 행정부에 알렸다고 합니다. 안스로픽은 이를 '탈옥(Jailbreak)'이라는 표현에 이의를 제기하며, 모델의 안전장치가 완전히 무너진 것이 아니라 이미 패치된 좁은 범위의 문제라고 불만을 표했습니다.
하지만 결과는 마찬가지였습니다. 상무부는 수출 통제 지시를 내렸고, 일부 보도에 따르면 안스로픽은 통보를 받은 지 약 90분 만에 즉시 제품 접근을 제한하기 위해 총력을 기울여야 했습니다.
사실 이런 상황은 새로울 것이 없습니다. 수십 년 동안 정부는 위험한 사이버 기술의 확산을 막기 위해 수출 통제를 사용해 왔지만, 그 성과는 기껏해야 그저 그랬습니다. 미국 정부는 1990년대 초중반에 이러한 접근 방식이 역사상 가장 끔찍한 실패를 겪었던 장본인이기도 합니다. 당시 컴퓨터 과학자들은 인터넷을 통해 데이터를 이동시키는 동안 보안을 유지하기 위해 암호화 기술을 개발하고 있었습니다. 그 암호화 제품 중 하나인 PGP(Pretty Good Privacy)는 데이터를 암호화하여 인터넷을 통해 의도된 수신자에게 전달되는 동안 가로채더라도 복호화하는 것이 사실상 불가능하게 만드는 인기 있는 소프트웨어였습니다.
미국 정부는 초기에 PGP를 위험한 무기로 보았습니다. 정보 기관이 이메일 감청을 할 수 없게 될까봐 두려워했기 때문입니다. PGP의 확산을 막기 위해 미국 세관은 무기 수출 통제 위반 혐의로 PGP 개발자인 필 짐머만(Phil Zimmermann)에 대한 형사 조사를 시작했습니다. 그는 PGP의 소스 코드를 인쇄된 책으로 출판하며 맞섰고, 이른바 '암호화 전쟁(Crypto Wars)'이라 불리는 사건의 도화선이 되었습니다. 짐머만은 훗날 조사가 종결되며 핵심적인 승리를 거두었고, 이는 오늘날 수십억 명이 사용하는 시그널(Signal) 및 왓츠앱(WhatsApp) 같은 엔드투엔드 암호화 알고리즘의 길을 열어주었습니다.
이후 2010년대 초반, 연구원들은 중동의 반체제 인사들을 감시하는 데 서방 제국의 스파이웨어가 사용되고 있음을 발견하기 시작했습니다. 이에 대응하여 여러 정부는 민간 및 군사용으로 모두 사용될 수 있는 '이중용도 소프트웨어 및 기술'의 수출을 제한하는 국제 조약인 바세나르 협정(Wassenaar Arrangement)을 확대하기로 합의했습니다. 감시 및 해킹 소프트웨어를 이중용도로 분류하여, 스파이웨어 제조사가 해외에 제품을 판매하려면 수출 허가를 받도록 강제하는 것이 그 주요 골자였습니다.
연락하기: 미토스(Mythos) 수출 금지에 대해 추가 정보가 있으신가요? 업무용이 아닌 안전한 환경에서...
Last Friday, citing unspecified national security concerns, the White House ordered Anthropic to restrict the export of its powerful AI models Fable and Mythos to anyone outside of the United States, as well as foreign nationals inside the country. Shortly after, the AI giant hastily pulled the plug on both models, which have now been unavailable to anyone for a week. The episode is the first real test of whether the U.S. government can use export controls to contain frontier AI the way it has tried, with very uneven results, to contain encryption and spyware before it. And dramatic as it may sound, how this standoff gets resolved could shape not just Anthropic's access to foreign markets but the rulebook that other AI labs will have to build around. Some context first. Ever since Anthropic launched Mythos in April , the company has marketed it as some kind of Doomsday cyber machine that could wreak havoc on the internet if released too widely — which is why, before the ban, only around 150 vetted companies and government organizations had access to it at all. The goal was helping defenders secure their software and services before the bad guys could reach Mythos-like capabilities. So what triggered the ban? Two subsequent events, reportedly. The first: Anthropic gave a South Korean telecom access to Mythos through its limited partner program, and U.S. officials grew alarmed after identifying the company as one they suspected had ties to China. (The company, widely reported to be SK Telecom, has denied any China connection.) Amazon CEO Andy Jassy also reportedly alerted the administration after Amazon's own researchers, he said, found a way around Fable 5's safeguards. Anthropic disputes the "jailbreak" label, calling it a narrow, already-patched issue rather than a wholesale defeat of the model's safety measures. The result was the same: the Commerce Department issued an export control directive, and Anthropic had to scramble to immediately limit access to its products within roughly 90 minutes of being notified, by some accounts. None of this is new, though. Governments have tried to use export controls to limit the proliferation of what they see as dangerous cyber technology for decades, but their track record has been middling at best. The U.S. government was behind what is perhaps history’s most spectacular failure of this approach in the early to mid-1990s. At the time, computer scientists were developing encryption technologies to secure data as it traveled over the internet. One of those encryption products was called Pretty Good Privacy, or PGP, a popular software that could encrypt data and make it virtually impossible to unscramble even if intercepted as it traveled to its intended recipient over the internet. The U.S. government initially saw PGP as a dangerous weapon, fearing it would prevent its intelligence agencies from snooping on emails as they crossed their wires. To stop the distribution of PGP, the U.S. Customs Service opened a criminal investigation against PGP’s creator Phil Zimmermann for allegedly violating arms export controls. He fought back by publishing PGP’s source code as a printed book , igniting what is known today as the "Crypto Wars." Zimmermann later won a key battle when the investigation was closed, paving the way for crucial end-to-end encryption algorithms such as the one used by billions of Signal and WhatsApp users. Later during the early 2010s, researchers began discovering Western-made spyware used against dissidents in the Middle East. In response, several governments agreed to expand the Wassenaar Arrangement , an international treaty that limits the export of dual-use software and technologies that are used in both civilian and military applications. The idea was to classify surveillance and hacking software as dual-use, thus forcing spyware makers to get export licenses to sell their products abroad. Contact Us Do you have more information about the Mythos ban? From a non-work device and network, you can contact Lorenzo Franceschi-Bicchierai securely on Signal at +1 917 257 1382, or via Telegram and Keybase @lorenzofb, or email . But Wassenaar has always had two inherent weaknesses. There are several countries that don’t adhere to the agreement, including Israel, which houses some of the world's most active spyware makers. The agreement also depends on countries applying it to companies within their borders at their own discretion. For a time, the Italian government allowed one of the country's then-top spyware makers, Hacking Team, a license to export its tools around the world, despite the company’s track record of selling spyware to oppressive governments that used it to hack journalists and human rights activists. Since then, other countries in Europe have been lax with spyware makers like Italy. Despite numerous scandals, Europe, home to many spyware and hacking tools makers , has continually failed to curb the export of spyware to authoritarian regimes. Critics say that a recently renewed effort across the bloc of 27 member states to tackle its growing problem of spyware exports to authoritarian states “does not go far enough.” Several spyware makers, such as Intellexa, a sanctioned consortium of spyware companies, have simply moved their operations to countries with lax export controls. Other spyware makers sought to move their operations to Saudi Arabia for similar reasons. There have been some wins. Germany-based spyware maker FinFisher shut down in 2022 after a multi-year investigation by German prosecutors into the company for allegedly selling spyware to Turkey without an export license. Investigators previously found the FinFisher spyware had been deployed on the phones of critics of Turkey's government. As of the time of writing, the impasse between Anthropic and the Trump administration remains. There is a reasonable chance the administration will buckle and lift the restriction in the interest of keeping American AI companies competitive worldwide — a move that would amount to tacit acknowledgment that AI labs elsewhere, including in China, will likely reach similar capabilities regardless of what the U.S. restricts. Or, American AI companies could end up needing government approval before serving foreign customers at all, a compliance burden that would invariably dent their bottom line. Given the past experiences that world governments have had with trying to control the reach of software, government-mandated export controls are unlikely to be the right approach to stop malicious actors from abusing powerful dual-use cyber technologies. Topics AI , Anthropic , artificial intelligence , cybersecurity , export controls , infosec , Mythos , Security , Spyware When you purchase through links in our articles, we may earn a small commission . This doesn’t affect our editorial independence. Lorenzo Franceschi-Bicchierai Senior Reporter, Cybersecurity Lorenzo Franceschi-Bicchierai is a Senior Writer at TechCrunch, where he covers hacking, cybersecurity, surveillance, and privacy. You can contact or verify outreach from Lorenzo by emailing lorenzo@techcrunch.com , via encrypted message at +1 917 257 1382 on Signal, and @lorenzofb on Keybase/Telegram. View Bio June 18 Los Angeles Get an inside look at what it takes to scale and succeed from leaders at Mach Industries, Founders Fund, and Shinkei Systems. Through candid fireside chats and high-impact networking, you'll walk away with valuable insights and new connections. REGISTER NOW Most Popular NASA picks Eric Schmidt's rocket company for Mars mission, setting up a race with SpaceX Tim Fernholz SpaceX to acquire Cursor for $60B in stock, days after blockbuster IPO Sean O'Kane The US government's Anthropic models ban was never about an AI jailbreak Zack Whittaker The AI layoff wave is becoming a powder keg Connie Loizos As Anthropic suspends access to new models, India debates its AI future Jagmeet Singh Amazon CEO reportedly raised Anthro