Hacker News • 50일 전

美 재무부, 안스로픽 AI 사이버 위험 논의 위해 은행장 긴급 소집

IMP

9/10

핵심 요약

미국 재무부과 연방준비제도 의장은 안스로픽의 최신 AI 모델이 초래할 수 있는 전례 없는 사이버 보안 위험을 논의하기 위해 주요 대형 은행 최고경영자들을 긴급 소집했습니다. 아직 공개되지 않은 '클로드 미토스(Claude Mythos)' 모델은 최대 27년 된 소프트웨어 취약점을 수천 개 발견해 해킹 및 암호 해킹 악용 우려가 커지고 있습니다. 이에 안스로픽은 사상 처음으로 해당 모델의 출시를 아마존, 애플, 마이크로소프트 등 극소수 기업으로만 제한하기로 결정했습니다.

번역된 본문

안스로픽의 최신 AI 모델이 초래하는 사이버 위험에 대한 우려 속에, 미국 재무장관 스콧 베센트(Scott Bessent)가 이번 주 워싱턴에서 미국 주요 은행 최고경영자들을 회의에 소집했다고 전해졌다.

안스로픽은 자사의 '클로드 미토스(Claude Mythos)' AI 모델이 전례 없는 사이버 보안 위험을 초래할 수 있다고 밝혔으며, 연방준비제도(Fed)의 제롬 파월(Jerome Powell) 의장도 재무부 본부에서 열린 이 회의에 참석한 것으로 알려졌다.

최근 클로드의 코드 유출 사태와 관련해, 이 스타트업은 이달 초 블로그 게시물을 통해 AI 모델이 "가장 숙련된 인간을 제외한 모든 사람을 능가하여 소프트웨어 취약점을 찾고 악용하는 수준에 도달했다"고 밝혔다. 그러면서 "경제, 공공 안전 및 국가 안보에 미칠 여파는 심각할 수 있다"고 덧붙였다.

이번 주 회의는 은행 최고경영자들이 로비 단체 행사에 참석하기 위해 이미 워싱턴에 머물고 있던 시기에 소집된 것으로 전해졌다. 초대 명단은 이른바 '시스템적 중요성을 가진 은행(G-SIB)'의 수장들에게 집중되었다. 이는 규제 당국이 이들의 주요 업무 차질이나 잠재적 파산이 금융 안정을 위협할 수 있다고 보고 있기 때문이다.

이 회의를 최초로 보도한 블룸버그(Bloomberg)에 따르면, 참석자에는 골드만삭스의 데이비드 솔로몬(David Solomon) 최고경영자, 뱅크오브아메리카의 브라이언 모이니한(Brian Moynihan), 씨티그룹의 제인 프레이저(Jane Fraser), 모건스탠리의 테드 픽(Ted Pick), 웰스파고의 찰리 샤프(Charlie Scharf) 등이 포함되었다. JP모건의 제이미 다이먼(Jamie Dimon)은 초대받았으나 참석하지 못했다.

다이먼은 이번 주 발표된 주주 서한에서 사이버 보안이 "우리의 가장 큰 위험 중 하나로 남아 있으며, AI는 거의 확실히 이러한 위험을 악화시킬 것"이라고 경고했다.

안스로픽에 따르면, 아직 출시되지 않은 '미토스(Mythos)' 모델은 소프트웨어 및 인기 애플리케이션에서 수천 개의 취약점을 발견했다. 이를 계기로 이 회사는 새로운 모델의 출시를 아마존, 애플, 마이크로소프트를 포함한 소수의 기업으로만 제한하기로 했다. 이는 안스로픽이 제품 출시를 제한한 첫 번째 사례이다.

무료 오픈소스 리눅스 컴퓨터 운영체제를 지원하는 리눅스 재단(Linux Foundation)과 함께 네트워킹 기업인 시스코(Cisco)와 브로드컴(Broadcom)도 접근 권한을 획득했다.

이 소식은 해커들이 이러한 도구를 악용해 비밀번호를 알아내거나 데이터 보호를 위해 설계된 암호화를 해독할 수 있다는 우려 속에 나왔다.

안스로픽은 미토스가 발견한 가장 오래된 취약점은 최대 27년 된 것이라고 밝혔다. 이러한 취약점 중 어느 것도 해당 AI 모델에 의해 식별되기 전에 개발자나 기술 모니터링 업체가 발견하지 못한 것으로 추정된다.

이 회의는 미국 정부가 안스로픽을 '공급망 위험'으로 지정한 지 몇 주 만에 열렸다. 안스로픽은 현재 법원에서 이러한 주장에 맞서 싸우고 있다.

연방준비제도, 안스로픽, 미국 은행들은 블룸버그의 논평 요청을 거절했다. 재무부 역시 언론 매체의 논평 요청에 응답하지 않았다.

원문 보기

원문 보기 (영어)

US summons bank bosses over cyber risks from Anthropic’s latest AI model Fed chair Jerome Powell reportedly attends meeting in Washington following release of Claude Mythos The US Treasury secretary, Scott Bessent, summoned major American bank chiefs to a meeting in Washington this week amid concerns over the cyber risks posed by Anthropic’s latest AI model, according to reports. Jerome Powell, chair of the Rederal Reserve, was said to have been among those gathered at the Treasury headquarters for the meeting after the release of the Claude Mythos AI model that Anthropic says poses unprecedented cybersecurity risks . A recent leak of Claude’s code prompted the startup to publish a blogpost at the beginning of the month saying that AI models had surpassed “all but the most skilled humans at finding and exploiting software vulnerabilities”, adding: “The fallout – for economies, public safety, and national security – could be severe.” This week’s meeting was reportedly called while bank bosses were already in Washington for a lobby group gathering, with a guest list focused on heads of so-called systemically important banks – meaning regulators believe that a major disruption to their operations, or their potential collapse, would put financial stability at risk. Those in attendance included the Goldman Sachs chief executive, David Solomon, Bank of America’s Brian Moynihan, Citigroup’s Jane Fraser, Morgan Stanley’s Ted Pick and the Wells Fargo boss Charlie Scharf, according to Bloomberg , which first reported details of the meeting. JP Morgan’s Jamie Dimon was invited but unable to attend. In an annual letter to shareholders, published this week, Dimon warned that cybersecurity “remains one of our biggest risks” and that “AI will almost surely make this risk worse”. Anthropic has said that its Mythos model, yet to be released, has exposed thousands of vulnerabilities in software and popular applications, prompting it to limit the release of the new model to a small clutch of businesses, including Amazon, Apple and Microsoft. This is the first time Anthropic has restricted the release of a product. The networking companies Cisco and Broadcom have also gained access, along with the Linux Foundation, which promotes the free, open-source Linux computer operating system. The news comes amid concerns that hackers could end up using such tools for figuring out passwords or cracking encryption that is intended to keep data safe. The company said the oldest of the vulnerabilities uncovered by Mythos were up to 27 years old, none of which is believed to have been noticed by their creators or tech monitors before being identified by the AI mode. The meeting comes weeks after the US government designated Anthropic as a supply chain risk , allegations that Anthropic is fighting in court. The Federal Reserve , Anthropic and the US banks declined requests for comment from Bloomberg. The Treasury did not respond to the news outlet’s request for comment. Explore more on these topics AI (artificial intelligence) Banking Technology sector Federal Reserve Jerome Powell news Share Reuse this content

AI 보안 안스로픽 사이버 위협 미국 금융 규제 클로드 미토스