클로드로 발견한 암호 알고리즘의 취약점
Anthropic의 연구진이 '클로드 미토스 프리뷰(Claude Mythos Preview)' 모델을 사용하여 양자 후기 시대를 겨냥한 디지털 서명 체계인 HAWK와 대칭 키 암호화 방식인 AES의 축소 버전을 공격하는 새로운 수학적 취약점을 발견했습니다. 이 연구 결과는 현재 상용 서비스에 직접적인 위협을 주지는 않지만, 강력한 AI 모델이 향후 복잡한 암호학 알고리즘의 근본적인 결함을 찾아내어 시스템을 더욱 안전하게 만드는 데 기여할 수 있음을 보여줍니다.
프론티어 레드 팀(Frontier Red Team): 클로드로 암호화 취약점 발견하기 (2026년 7월 28일)
요약 Anthropic의 연구원들은 '클로드 미토스 프리뷰(Claude Mythos Preview)'를 활용하여 암호화 알고리즘(온라인 데이터를 비공개로 유지하기 위해 사용되는 수학적 방식)을 공격하는 향상된 방법을 발견했습니다. 첫 번째 공격은 양자 컴퓨터 시대를 대비해 구축된 디지털 서명 체계인 HAWK를 크게 약화시킵니다. 두 번째는 가장 널리 사용되는 대칭형 암호인 AES(Advanced Encryption Standard)의 축소 버전(round-reduced AES)을 공격하는 새로운 방법을 찾아냈습니다. 이는 상당한 연구 진전이지만, 현재 운영 중인 시스템에는 영향을 미치지 않습니다. 이 글에서는 두 가지 발견의 세부 사항을 설명하고, 강력한 AI 모델 시대의 암호학에 미치는 영향을 논의합니다.
소개 우리가 '클로드 미토스 프리뷰(Claude Mythos Preview)'를 출시했을 때, 이 모델이 우리가 지정한 거의 모든 소프트웨어에서 취약점을 자율적으로 찾고 악용할 수 있음을 보여주었습니다. 여기에는 데이터를 암호화하는 데 사용되는 공유 코드 라이브러리인 여러 주요 암호화 라이브러리도 포함되었습니다. 클로드가 이러한 암호화 라이브러리에서 발견한 취약점은 알고리즘의 잘못된 구현, 즉 프로그래머가 코드에서 알고리즘을 사용하는 방식의 오류로 인해 공격자가 암호화를 해독할 수 있는 기회를 만든 것이었습니다.
이제 우리는 클로드가 알고리즘 자체의 수학적 결함을 찾을 수 있음을 발견했습니다. 암호화 알고리즘은 디지털 보안의 근본적인 기본 요소입니다. 예를 들어, https://www.anthropic.com 과 같은 웹페이지를 방문할 때 브라우저는 '디지털 서명 체계(digital signature scheme)'라는 알고리즘을 사용하여 실제 웹사이트와 통신하고 있는지 확인합니다. 그런 다음 귀하와 웹사이트 간의 트래픽은 '대칭형 암호(symmetric ciphers)'를 사용하여 암호화됩니다. 이는 동일한 키를 공유하는 당사자 간에 안전한 데이터 전송을 허용하는 코드입니다. 이러한 안전한 암호화 시스템이 없다면 이메일, 온라인 뱅킹 및 기타 인터넷 사용량이 사이버 범죄자에게 노출되어 통신을 가로채거나 수정할 수 있습니다. 이러한 널리 사용되는 암호화 시스템의 결함은 수십억 사용자의 데이터를 위험에 빠뜨릴 수 있습니다.
이 글에서 설명하는 클로드 미토스 프리뷰를 통해 발견한 첫 번째 결과는 HAWK라는 디지털 서명 체계에 대한 향상된 공격입니다. 2022년 미국 정부의 국립 표준 기술 연구소(NIST)는 양자 컴퓨터(개발될 경우 오늘날 사용되는 대부분의 기존 서명 체계를 깰 수 있음)에 대해서도 안전하게 유지될 수 있는 추가 암호화 시스템을 공개적으로 제안했습니다. HAWK는 이 공모에서 고려 중인 3차 후보 중 하나입니다. 2년 동안 전문가들의 2차례의 검토를 거쳤음에도 불구하고, 미토스는 단 60시간의 작업 만에 알려진 최고의 공격 방식을 개선하여 사실상 키의 강도를 절반으로 줄였습니다.
두 번째 결과는 2001년 NIST에 의해 채택되어 거의 모든 암호화 알고리즘을 통틀어 가장 많은 조사를 받은 대칭형 암호인 고급 암호화 표준(AES)과 관련이 있습니다. AES의 견고성을 더 잘 이해하기 위해 암호학 연구에서는 알고리즘의 약화된 변형이 정기적으로 연구됩니다. 미토스는 이러한 약화된 버전 중 하나를 깨는 방법을 찾았으며, 공격자가 해야 할 추측 중 하나를 제거하여 기존 최고 공격보다 200~800배 빠른 속도를 개선했습니다.
분명히, 이러한 결과는 오늘날의 컴퓨터 시스템에 실질적인 영향을 미치지 않으며 어떤 상용 소프트웨어도 이로 인해 변경할 필요가 없습니다. HAWK는 단지 후보 서명 체계일 뿐이므로 실제 배포되지 않았으며, 두 번째 AES 공격은 AES의 축소 버전에 대한 것으로 전체 암호를 손상시키지 않습니다. 그럼에도 불구하고, 두 결과 모두 실제 배포 전후에 중요한 암호화 알고리즘의 결함을 발견하는 데 최첨단 AI 모델이 도움을 줄 수 있는 잠재력을 보여줍니다. 이것은 의도된 대로 작동하는 암호학 연구입니다. 알고리즘을 스트레스 테스트하여 신뢰를 구축하고 궁극적으로 시스템을 더 안전하게 만드는 것입니다. 미토스 프리뷰는 대부분 자율적으로 이러한 결과를 얻었습니다.