디스코드 탐정들, 안스로픽 '미토스' 무단 접속
최근 보안 취약점 발견에 특화된 안스로픽의 미공개 AI 모델 '미토스(Mythos)'가 제한된 사람만 접근할 수 있도록 통제되고 있었으나, 디스코드 사용자들이 관련 데이터 유출 정보를 바탕으로 모델의 위치를 추론해 무단 접속하는 사건이 발생했습니다. 이와 함께 통신망의 SS7 취약점을 악용해 민간 감시 회사들이 실제 스파이 활동을 벌이고 있다는 사실도 함께 보도되었습니다.
연구자들과 실무자들이 새로운 AI 모델이 사이버 보안에 미칠 영향에 대해 논의하는 가운데, 모질라(Mozilla)는 화요일 안스로픽(Anthropic)의 '미토스 프리뷰(Mythos Preview)'에 대한 초기 접근 권한을 활용해 새롭게 출시된 파이어폭스(Firefox) 150 브라우저에서 271개의 취약점을 발견하고 수정했다고 밝혔다.
동시에 연구원들은 북한 해커 집단이 악성코드 개발부터 가짜 기업 웹사이트 생성에 이르기까지 모든 것에 AI를 사용하고 있으며, 3개월 동안 최대 1,200만 달러를 훔쳤다고 지적했다. 또한 연구자들은 마침내 스턱스넷(Stuxnet)보다 오래되어 이란의 핵 프로그램을 표적으로 사용되었을 수 있는 파괴적인 악성코드 '패스트16(Fast16)'을 해독해냈다. 이 악성코드는 2005년에 제작되었으며 미국이나 동맹국에 의해 배포된 것으로 추정된다.
비영리 단체인 미국소비자연합(Consumer Federation of America)은 페이스북과 인스타그램의 사기 광고 및 이를 방지하려는 회사의 노력에 대해 소비자를 기만했다는 혐의로 메타(Meta)를 고소했다. 한편, 미국 영장 없이 미국인의 통신 내역을 열람할 수 있도록 허용하는 FBI 감시 프로그램의 갱신 기한이 다가오고 있지만, 입법자들은 다음 단계를 두고 교착 상태에 빠져 있다. 이를 해결하기 위한 새로운 법안이 제출되었으나 실질적인 내용이 부족하다.
더 깊이 있는 내용을 원한다면, 와이어드(WIRED)가 프라이버시와 보안에 중점을 둔 모바일 운영체제인 그래핀OS(GrapheneOS)를 둘러싼 수년간의 갈등을 조사한 바 있다. 또한 중국이 미국 피겨 스케이팅 선수 알리사 류(Alysa Liu)와 그녀의 아버지를 감시한 기이한 이야기도 살펴보았다.
이 외에도 더 많은 소식이 있다. 매주 우리가 심층적으로 다루지 못한 보안 및 개인정보 보호 뉴스를 모아서 정리해 드린다. 전체 기사를 읽으려면 제목을 클릭하라. 그리고 안전에 유의하기 바란다.
디스코드 탐정들, 안스로픽의 '미토스' AI 도구에 무단 접속하다
안스로픽(Anthropic)의 미토스 프리뷰(Mythos Preview) AI 모델은 소프트웨어와 네트워크의 보안 취약점을 찾아내는 위험할 정도로 강력한 도구로 선전되어 왔으며, 그 위력이 워낙 커서 개발사가 출시를 엄격하게 통제해 왔다. 하지만 디스코드의 한 아마추어 탐정 그룹이 해킹 등의 복잡한 기술 없이, 매우 단순한 방법으로 이렇게나 갈망하던 디지털 보물인 '미토스' 자체에 무단으로 접근하는 데 성공했다.
이 사건을 단독 보도한 블룸버그(Bloomberg)에 따르면, 안스로픽이 미토스 프리뷰를 사용할 수 있는 사람을 통제하려고 노력했음에도 불구하고 디스코드 사용자 그룹은 비교적 단순한 추적 작업을 통해 도구에 접근할 수 있었다. 이들은 개발자들과 협력하는 AI 훈련 스타트업인 '머코르(Mercor)'의 최근 데이터 유출 정보를 분석했으며, "안스로픽이 다른 모델에 사용한 형식(format)에 대한 지식을 바탕으로 모델의 온라인 위치에 대해 합리적인 추측을 했다"고 밝혔다. (많은 관계자들은 이 표현이 웹 URL을 가리키는 것이라고 추측하고 있다.)
또한 보도에 따르면, 이들 중 한 명은 안스로픽 하청 업체에서 일하면서 이미 다른 안스로픽 모델에 접근할 수 있는 권한을 가지고 있었으며 이를 악용했다. 탐색 결과 이들은 미토스뿐만 아니라 아직 출시되지 않은 다른 안스로픽 AI 모델에도 접근한 것으로 알려졌다.
다행히 블룸버그에 따르면, 미토스에 접근한 이 그룹은 안스로픽의 탐지를 피하기 위해 지금까지 단순한 웹사이트 구축에만 이 모델을 사용했을 뿐, 전 세계를 해킹하는 등의 악의적인 행동은 하지 않은 것으로 파악되었다.
감시 회사들, 1년 된 통신망 취약점을 악용해 스파이 행위를 자행하다
보안 연구자들은 오랫동안 전화 네트워크가 서로 연결하고 통화와 문자 메시지를 라우팅하는 방식을 관할하는 통신 프로토콜인 시스템 7(SS7, Signaling System 7)이 몰래 감시를 허용하는 악용에 취약하다고 경고해 왔다. 이번 주 디지털 권리 단체인 시티즌 랩(Citizen Lab)의 연구원들은 최소 두 개의 영리 목적 감시 업체가 실제로 이러한 취약점(또는 차세대 통신 프로토콜의 유사한 취약점)을 악용하여 실제 피해자를 스파이하고 있음을 밝혀냈다.
시티즌 랩은 두 감시 회사가 본질적으로 불법 통신 사업자처럼 행동하며, 이스라엘 통신사 019모바일(019Mobile), 영국 통신사 탱고 모바일(Tango Mobile), 그리고 영국 해협의 저지 섬에 기반을 둔 에어텔 저지(Airtel Jersey) 등 3개의 소규모 통신 회사에 대한 접근 권한을 악용하고 있다는 사실을 발견했다.