메뉴
BL
Wired AI 36일 전

디스코드 탐정들, 안스로픽 '미토스' 무단 접속

IMP
8/10
핵심 요약

최근 보안 취약점 발견에 특화된 안스로픽의 미공개 AI 모델 '미토스(Mythos)'가 제한된 사람만 접근할 수 있도록 통제되고 있었으나, 디스코드 사용자들이 관련 데이터 유출 정보를 바탕으로 모델의 위치를 추론해 무단 접속하는 사건이 발생했습니다. 이와 함께 통신망의 SS7 취약점을 악용해 민간 감시 회사들이 실제 스파이 활동을 벌이고 있다는 사실도 함께 보도되었습니다.

번역된 본문

연구자들과 실무자들이 새로운 AI 모델이 사이버 보안에 미칠 영향에 대해 논의하는 가운데, 모질라(Mozilla)는 화요일 안스로픽(Anthropic)의 '미토스 프리뷰(Mythos Preview)'에 대한 초기 접근 권한을 활용해 새롭게 출시된 파이어폭스(Firefox) 150 브라우저에서 271개의 취약점을 발견하고 수정했다고 밝혔다.

동시에 연구원들은 북한 해커 집단이 악성코드 개발부터 가짜 기업 웹사이트 생성에 이르기까지 모든 것에 AI를 사용하고 있으며, 3개월 동안 최대 1,200만 달러를 훔쳤다고 지적했다. 또한 연구자들은 마침내 스턱스넷(Stuxnet)보다 오래되어 이란의 핵 프로그램을 표적으로 사용되었을 수 있는 파괴적인 악성코드 '패스트16(Fast16)'을 해독해냈다. 이 악성코드는 2005년에 제작되었으며 미국이나 동맹국에 의해 배포된 것으로 추정된다.

비영리 단체인 미국소비자연합(Consumer Federation of America)은 페이스북과 인스타그램의 사기 광고 및 이를 방지하려는 회사의 노력에 대해 소비자를 기만했다는 혐의로 메타(Meta)를 고소했다. 한편, 미국 영장 없이 미국인의 통신 내역을 열람할 수 있도록 허용하는 FBI 감시 프로그램의 갱신 기한이 다가오고 있지만, 입법자들은 다음 단계를 두고 교착 상태에 빠져 있다. 이를 해결하기 위한 새로운 법안이 제출되었으나 실질적인 내용이 부족하다.

더 깊이 있는 내용을 원한다면, 와이어드(WIRED)가 프라이버시와 보안에 중점을 둔 모바일 운영체제인 그래핀OS(GrapheneOS)를 둘러싼 수년간의 갈등을 조사한 바 있다. 또한 중국이 미국 피겨 스케이팅 선수 알리사 류(Alysa Liu)와 그녀의 아버지를 감시한 기이한 이야기도 살펴보았다.

이 외에도 더 많은 소식이 있다. 매주 우리가 심층적으로 다루지 못한 보안 및 개인정보 보호 뉴스를 모아서 정리해 드린다. 전체 기사를 읽으려면 제목을 클릭하라. 그리고 안전에 유의하기 바란다.


디스코드 탐정들, 안스로픽의 '미토스' AI 도구에 무단 접속하다

안스로픽(Anthropic)의 미토스 프리뷰(Mythos Preview) AI 모델은 소프트웨어와 네트워크의 보안 취약점을 찾아내는 위험할 정도로 강력한 도구로 선전되어 왔으며, 그 위력이 워낙 커서 개발사가 출시를 엄격하게 통제해 왔다. 하지만 디스코드의 한 아마추어 탐정 그룹이 해킹 등의 복잡한 기술 없이, 매우 단순한 방법으로 이렇게나 갈망하던 디지털 보물인 '미토스' 자체에 무단으로 접근하는 데 성공했다.

이 사건을 단독 보도한 블룸버그(Bloomberg)에 따르면, 안스로픽이 미토스 프리뷰를 사용할 수 있는 사람을 통제하려고 노력했음에도 불구하고 디스코드 사용자 그룹은 비교적 단순한 추적 작업을 통해 도구에 접근할 수 있었다. 이들은 개발자들과 협력하는 AI 훈련 스타트업인 '머코르(Mercor)'의 최근 데이터 유출 정보를 분석했으며, "안스로픽이 다른 모델에 사용한 형식(format)에 대한 지식을 바탕으로 모델의 온라인 위치에 대해 합리적인 추측을 했다"고 밝혔다. (많은 관계자들은 이 표현이 웹 URL을 가리키는 것이라고 추측하고 있다.)

또한 보도에 따르면, 이들 중 한 명은 안스로픽 하청 업체에서 일하면서 이미 다른 안스로픽 모델에 접근할 수 있는 권한을 가지고 있었으며 이를 악용했다. 탐색 결과 이들은 미토스뿐만 아니라 아직 출시되지 않은 다른 안스로픽 AI 모델에도 접근한 것으로 알려졌다.

다행히 블룸버그에 따르면, 미토스에 접근한 이 그룹은 안스로픽의 탐지를 피하기 위해 지금까지 단순한 웹사이트 구축에만 이 모델을 사용했을 뿐, 전 세계를 해킹하는 등의 악의적인 행동은 하지 않은 것으로 파악되었다.


감시 회사들, 1년 된 통신망 취약점을 악용해 스파이 행위를 자행하다

보안 연구자들은 오랫동안 전화 네트워크가 서로 연결하고 통화와 문자 메시지를 라우팅하는 방식을 관할하는 통신 프로토콜인 시스템 7(SS7, Signaling System 7)이 몰래 감시를 허용하는 악용에 취약하다고 경고해 왔다. 이번 주 디지털 권리 단체인 시티즌 랩(Citizen Lab)의 연구원들은 최소 두 개의 영리 목적 감시 업체가 실제로 이러한 취약점(또는 차세대 통신 프로토콜의 유사한 취약점)을 악용하여 실제 피해자를 스파이하고 있음을 밝혀냈다.

시티즌 랩은 두 감시 회사가 본질적으로 불법 통신 사업자처럼 행동하며, 이스라엘 통신사 019모바일(019Mobile), 영국 통신사 탱고 모바일(Tango Mobile), 그리고 영국 해협의 저지 섬에 기반을 둔 에어텔 저지(Airtel Jersey) 등 3개의 소규모 통신 회사에 대한 접근 권한을 악용하고 있다는 사실을 발견했다.

원문 보기
원문 보기 (영어)
Comment Loader Save Story Save this story Comment Loader Save Story Save this story As researchers and practitioners debate the impact that new AI models will have on cybersecurity, Mozilla said on Tuesday it used early access to Anthropic's Mythos Preview to find and fix 271 vulnerabilities in its new Firefox 150 browser release. Meanwhile, researchers identified a group of moderately successful North Korean hackers using AI for everything from vibe coding malware to creating fake company websites—stealing up to $12 million in three months. Researchers have finally cracked disruptive malware known as Fast16 that predates Stuxnet and may have been used to target Iran’s nuclear program. It was created in 2005 and was likely deployed by the US or an ally. Meta is being sued by the Consumer Federation of America , a nonprofit, over scam ads on Facebook and Instagram and allegedly misleading consumers about the company’s efforts to combat them. A United States surveillance program that lets the FBI view Americans’ communications without a warrant is up for renewal, but lawmakers are deadlocked on next steps. A new bill aims to address mounting lawmaker concerns, but lacks substance. And if you’re looking for a deep dive, WIRED investigated the yearslong feud behind the prominent privacy and security conscious mobile operating system GrapheneOS. Plus we looked at the strange tale of how China spied on US figure skater Alysa Liu and her dad. And there’s more. Each week, we round up the security and privacy news we didn’t cover in depth ourselves. Click the headlines to read the full stories. And stay safe out there. Discord Sleuths Gained Unauthorized Access to Anthropic’s Mythos AI Tool Anthropic’s Mythos Preview AI model has been touted as a dangerously capable tool for finding security vulnerabilities in software and networks, so powerful that its creator has carefully restricted its release. But one group of amateur sleuths on Discord found their own, relatively simple ways—no AI hacking required—to gain unauthorized access to a coveted digital prize: Mythos itself. Despite Anthropic’s efforts to control who can use Mythos Preview, a group of Discord users gained access to the tool through some straightforward relatively detective work: They examined data from a recent breach of Mercor , an AI training startup that works with developers, and “made an educated guess about the model’s online location based on knowledge about the format Anthropic has used for other models”—a phrase that many observers have speculated refers to a web URL—according to Bloomberg, which broke the story. The person also reportedly took advantage of permissions they already possessed to access other Anthropic models, thanks to their work for an Anthropic contracting firm. As a result of their probing, however, they allegedly gained access to not only Mythos but other unreleased Anthropic AI models, too. Thankfully, according to Bloomberg, the group that accessed Mythos has only used it so far to build simple websites—a decision designed to prevent its detection by Anthropic—rather than hack the planet. Surveillance Firms Are Exploiting Year-Old Telecom Vulnerabilities for Spying Security researchers have long warned that the telecom protocols known as Signaling System 7, or SS7, which govern how phone networks connect to one another and route calls and texts, are vulnerable to abuse that would allow surreptitious surveillance. This week researchers at the digital rights organization Citizen Lab revealed that at least two for-profit surveillance vendors have actually used those vulnerabilities—or similar ones in the next generation of telecom protocols—to spy on real victims. Citizen Lab found that two surveillance firms had essentially acted as rogue phone carriers, exploiting access to three small telecom firms—Israeli carrier 019Mobile, British cell provider Tango Mobile, and Airtel Jersey, based on the island of Jersey in the English Channel—to track the location of targets’ phones. Citizen Lab’s researchers say that “high-profile” people were tracked by the two surveillance firms, though it declined to name either the firms or their targets. Researchers warn, too, that the two companies they discovered abusing the protocols are likely not alone, and that the vulnerability of global telecom protocols remains a very real vector for phone spying worldwide. 2 Alleged Southeast Asian Scam Compound Managers Charged In a sign of a growing—if belated—crackdown by US law enforcement on the sprawling criminal industry of human-trafficking-fueled scam compounds across Southeast Asia, the Department of Justice this week announced charges against two Chinese men for allegedly helping to manage a scam compound in Myanmar and seeking to open a second compound in Cambodia. Jiang Wen Jie and Huang Xingshan were both arrested in Thailand earlier this year on immigration charges, according to prosecutors, and now face charges for allegedly running a vast scamming operation that lured human trafficking victims to their compound with fake job offers and then forced them to scam victims, including Americans, for millions of dollars with cryptocurrency fraudulent investments. The DOJ says it also “restrained” $700 million in funds belonging to the operation—essentially freezing the funds in preparation for seizure—and also seized a channel on the messaging app Telegram prosecutors say was used to bait and enslave trafficking victims. The Justice Department’s statement claims that Huang personally took part in the physical punishment of workers in one compound, and that Jiang at one point oversaw the theft of $3 million from a single US scam victim. 500,000 UK Health Records Listed for Sale on Alibaba Three scientific research institutions have been found selling British citizens’ health information on Alibaba, the British government and the nonprofit UK Biobank revealed this week . Over the last two decades, more than 500,000 people have shared their health data—including medical images, genetic information, and health care records—with UK Biobank, which allows scientists around the world to access the information to conduct medical research. However, the charity said the data leak involved a “breach of the contract” signed by three organizations, with one of the datasets for sale believed to have included data on all half-million research subjects. It did not detail the full types of data that were listed for sale but said it has suspended the Biobank accounts of those allegedly selling the information. The ads for the data have also been removed. Apple Fixes Bug That Allowed FBI to Get Push Notifications From Signal Earlier this month, 404 Media reported that the FBI was able to get copies of Signal messages from a defendant’s iPhone as the content of the messages, which are encrypted within Signal, were saved in an iOS push notification database. In this instance, the copies of the messages were still accessible even though Signal had been removed from the phone—though the issue affected all apps that send push notifications. This week, in response to the issue, Apple released an iOS and iPadOS security update to fix the flaw. “Notifications marked for deletion could be unexpectedly retained on the device,” Apple’s security update for iOS 26.4.2 says . “A logging issue was addressed with improved data redaction.” While the issue has been fixed, it is still worth changing what appears in notifications on your device. For Signal you can open the app, go to Settings , Notifications , and toggle notifications to show Name Only or No Name or Content . It is another reminder that while apps such as Signal are end-to-end encrypted, this applies to the content as it moves between devices: If someone can physically access and unlock your phone, there is the potential they can access everything on your device.