메뉴
HN
Hacker News 15시간 전

클로드로 발견한 암호 알고리즘의 취약점

IMP
8/10
핵심 요약

Anthropic의 연구진이 '클로드 미토스 프리뷰(Claude Mythos Preview)' 모델을 사용하여 양자 후기 시대를 겨냥한 디지털 서명 체계인 HAWK와 대칭 키 암호화 방식인 AES의 축소 버전을 공격하는 새로운 수학적 취약점을 발견했습니다. 이 연구 결과는 현재 상용 서비스에 직접적인 위협을 주지는 않지만, 강력한 AI 모델이 향후 복잡한 암호학 알고리즘의 근본적인 결함을 찾아내어 시스템을 더욱 안전하게 만드는 데 기여할 수 있음을 보여줍니다.

번역된 본문

프론티어 레드 팀(Frontier Red Team): 클로드로 암호화 취약점 발견하기 (2026년 7월 28일)

요약 Anthropic의 연구원들은 '클로드 미토스 프리뷰(Claude Mythos Preview)'를 활용하여 암호화 알고리즘(온라인 데이터를 비공개로 유지하기 위해 사용되는 수학적 방식)을 공격하는 향상된 방법을 발견했습니다. 첫 번째 공격은 양자 컴퓨터 시대를 대비해 구축된 디지털 서명 체계인 HAWK를 크게 약화시킵니다. 두 번째는 가장 널리 사용되는 대칭형 암호인 AES(Advanced Encryption Standard)의 축소 버전(round-reduced AES)을 공격하는 새로운 방법을 찾아냈습니다. 이는 상당한 연구 진전이지만, 현재 운영 중인 시스템에는 영향을 미치지 않습니다. 이 글에서는 두 가지 발견의 세부 사항을 설명하고, 강력한 AI 모델 시대의 암호학에 미치는 영향을 논의합니다.

소개 우리가 '클로드 미토스 프리뷰(Claude Mythos Preview)'를 출시했을 때, 이 모델이 우리가 지정한 거의 모든 소프트웨어에서 취약점을 자율적으로 찾고 악용할 수 있음을 보여주었습니다. 여기에는 데이터를 암호화하는 데 사용되는 공유 코드 라이브러리인 여러 주요 암호화 라이브러리도 포함되었습니다. 클로드가 이러한 암호화 라이브러리에서 발견한 취약점은 알고리즘의 잘못된 구현, 즉 프로그래머가 코드에서 알고리즘을 사용하는 방식의 오류로 인해 공격자가 암호화를 해독할 수 있는 기회를 만든 것이었습니다.

이제 우리는 클로드가 알고리즘 자체의 수학적 결함을 찾을 수 있음을 발견했습니다. 암호화 알고리즘은 디지털 보안의 근본적인 기본 요소입니다. 예를 들어, https://www.anthropic.com 과 같은 웹페이지를 방문할 때 브라우저는 '디지털 서명 체계(digital signature scheme)'라는 알고리즘을 사용하여 실제 웹사이트와 통신하고 있는지 확인합니다. 그런 다음 귀하와 웹사이트 간의 트래픽은 '대칭형 암호(symmetric ciphers)'를 사용하여 암호화됩니다. 이는 동일한 키를 공유하는 당사자 간에 안전한 데이터 전송을 허용하는 코드입니다. 이러한 안전한 암호화 시스템이 없다면 이메일, 온라인 뱅킹 및 기타 인터넷 사용량이 사이버 범죄자에게 노출되어 통신을 가로채거나 수정할 수 있습니다. 이러한 널리 사용되는 암호화 시스템의 결함은 수십억 사용자의 데이터를 위험에 빠뜨릴 수 있습니다.

이 글에서 설명하는 클로드 미토스 프리뷰를 통해 발견한 첫 번째 결과는 HAWK라는 디지털 서명 체계에 대한 향상된 공격입니다. 2022년 미국 정부의 국립 표준 기술 연구소(NIST)는 양자 컴퓨터(개발될 경우 오늘날 사용되는 대부분의 기존 서명 체계를 깰 수 있음)에 대해서도 안전하게 유지될 수 있는 추가 암호화 시스템을 공개적으로 제안했습니다. HAWK는 이 공모에서 고려 중인 3차 후보 중 하나입니다. 2년 동안 전문가들의 2차례의 검토를 거쳤음에도 불구하고, 미토스는 단 60시간의 작업 만에 알려진 최고의 공격 방식을 개선하여 사실상 키의 강도를 절반으로 줄였습니다.

두 번째 결과는 2001년 NIST에 의해 채택되어 거의 모든 암호화 알고리즘을 통틀어 가장 많은 조사를 받은 대칭형 암호인 고급 암호화 표준(AES)과 관련이 있습니다. AES의 견고성을 더 잘 이해하기 위해 암호학 연구에서는 알고리즘의 약화된 변형이 정기적으로 연구됩니다. 미토스는 이러한 약화된 버전 중 하나를 깨는 방법을 찾았으며, 공격자가 해야 할 추측 중 하나를 제거하여 기존 최고 공격보다 200~800배 빠른 속도를 개선했습니다.

분명히, 이러한 결과는 오늘날의 컴퓨터 시스템에 실질적인 영향을 미치지 않으며 어떤 상용 소프트웨어도 이로 인해 변경할 필요가 없습니다. HAWK는 단지 후보 서명 체계일 뿐이므로 실제 배포되지 않았으며, 두 번째 AES 공격은 AES의 축소 버전에 대한 것으로 전체 암호를 손상시키지 않습니다. 그럼에도 불구하고, 두 결과 모두 실제 배포 전후에 중요한 암호화 알고리즘의 결함을 발견하는 데 최첨단 AI 모델이 도움을 줄 수 있는 잠재력을 보여줍니다. 이것은 의도된 대로 작동하는 암호학 연구입니다. 알고리즘을 스트레스 테스트하여 신뢰를 구축하고 궁극적으로 시스템을 더 안전하게 만드는 것입니다. 미토스 프리뷰는 대부분 자율적으로 이러한 결과를 얻었습니다.

원문 보기
원문 보기 (영어)
Frontier Red Team Discovering cryptographic weaknesses with Claude Jul 28, 2026 Summary Using Claude Mythos Preview, researchers at Anthropic have discovered improved ways to attack cryptographic algorithms (the mathematical methods used to keep online data private). The first attack significantly weakens HAWK, a digital signature scheme that was built for a post-quantum world. The second identifies a new way to attack round-reduced AES, the most widely used symmetric cipher. These are substantial research advances, but they do not currently affect any production systems. This post describes both findings in more detail and discusses the implications for cryptography in an age of powerful AI models. Introduction When we launched Claude Mythos Preview, we showed it was able to autonomously find and exploit vulnerabilities in almost every piece of software we pointed it at. This included several major cryptographic libraries—shared collections of code that are used to encrypt data. The vulnerabilities that Claude found in these cryptographic libraries 1 were due to incorrect implementation of the algorithms—that is, errors in how programmers used the algorithms in their code that created opportunities for attackers to break the encryption. Now, we have found that Claude is able to find mathematical flaws in the algorithms themselves . Cryptographic algorithms are a fundamental building block of digital security. For example, when you visit a webpage like https://www.anthropic.com , your browser checks that it is communicating with an authentic website using an algorithm called a digital signature scheme . Later, the traffic between you and the website is encrypted using symmetric ciphers —codes that allow secure data transmission between parties who share an identical key. Without secure cryptographic systems like these, your email, online banking, and other internet use would be open to cybercriminals, who could intercept or modify your communications. Flaws in these widely used cryptographic systems could put billions of users’ data at risk. The first result we describe in this post, which was discovered with Claude Mythos Preview, is an improved attack against a digital signature scheme called HAWK . In 2022, the US Government’s National Institute of Standards and Technology (NIST) put out a call for additional cryptographic systems that would remain secure even against quantum computers (which could, if developed, break most of the existing signature schemes in use today). HAWK is one of the third-round candidates under consideration from this call. Despite HAWK having survived two rounds of expert human review over a period of two years, Mythos was able to improve the best-known attack on it in just 60 hours of work—effectively cutting its key strength in half. The second result concerns the Advanced Encryption Standard (AES), a symmetric cipher that was adopted by NIST in 2001 and has received more scrutiny than almost any other encryption algorithm. In order to better understand the robustness of AES, weaker variations of the algorithm are regularly studied in cryptography research; Mythos found a way to break one such weaker version, and eliminated one of the guesses an attacker needs to make, improving the speed of the previous best attacks by 200-800×. To be clear, neither of these results has a practical impact on today’s computer systems; no production software will have to change as a result. HAWK is only a candidate signature scheme and so is not deployed; 2 our second attack is on a reduced version of AES and does not break the full cipher. 3 Nevertheless, both results show the potential for frontier AI models to help discover flaws in important cryptographic algorithms, both before and after real-world deployment. This is cryptography research working as intended: stress-testing algorithms to build trust and ultimately make systems more secure. Mythos Preview achieved these results mostly autonomously and mostly without human intervention. Over the course of a week, one Anthropic researcher worked together with Claude to develop the HAWK attack, and another researcher built a scaffold 4 that allowed Claude to fully autonomously discover the AES attack. 5 Each of the results cost roughly $100,000 in API cost to develop. After seeing these results, we broadened our search and began to discover other attacks. We discuss some of these follow-ups below. In order to make it easier for others to continue studying the cryptanalytic ability of LLMs, we partnered with academics at ETH Zurich, Tel Aviv University, and University of Haifa to build CryptanalysisBench , a benchmark that packages together many cryptographic ciphers and makes it easy for others to evaluate the capabilities of LLMs on this important topic. Throughout the research process, we followed responsible disclosure procedures, and consulted with academics to confirm the validity of our findings. We also shared advance copies with US government and industry partners, and held discussions on the implications of this research. In the case of our HAWK finding, we shared our attack with the authors of HAWK in June and coordinated disclosure to the public NIST mailing list at the same time our results were released. In the rest of this post, we summarize the two findings in further technical detail and briefly describe some of our other recent cryptography results. Full descriptions of the two main findings are provided in two new papers, and we hope to release details for our other findings in the near future. An improved key recovery attack on HAWK Working with Mythos Preview, an Anthropic researcher developed an attack against the HAWK post-quantum digital signature scheme. This attack substantially speeds up the time it would take to break the signature scheme—more technically, it reduces the “effective keysize” by a factor of two. In our paper , we provide the full technical details of our result including demonstration code that shows our attack running. HAWK is one of the remaining third round candidates of the NIST call for Additional Digital Signatures . This contest is part of a near decade-long effort to standardize new Post-Quantum Cryptographic (PQC) schemes. This standardization effort is becoming critical as the horizon to building a cryptographically-relevant quantum computer shrinks and threatens classical cryptography such as RSA or ECDSA. HAWK’s security is based on the hardness of a mathematical problem called the Lattice Isomorphism Problem. Mythos’s attack works by finding a specific, previously unexploited symmetry called a nontrivial automorphism in the lattice used by HAWK. Prior work proved that efficiently finding such an automorphism would permit an attack, but did not answer if such an automorphism was accessible in the lattice used by HAWK. The automorphism discovered by Mythos allows a faster enumeration attack that, while still exponential, means that one needs to double the size of HAWK keys to achieve the same level of security. Unfortunately, doubling HAWK’s key size eliminates many of the reasons making the scheme (as it currently stands) an attractive PQC signature candidate. Discovery process To find the attack, Claude Mythos Preview worked semi-autonomously in an agentic harness, with occasional human guidance and nontechnical direction. Mythos found the attack after an extensive literature review to understand the state of the art, and substantial mathematical reasoning and computational experiments. After finding the attack, Mythos implemented an end-to-end verification pipeline to convince itself—and the human operator—of the attack’s correctness. For this experiment, we used a Claude Code-like harness that supports multiple worker agents collaborating together in a sandboxed environment, with access to computational tools like Python and Sage as well as access to published cryptographic works. The human operator had a background in theoreti