메타가 '프라이버시와 보안을 위해 처음부터 설계했다'고 홍보한 AI 어시스턴트 뮤즈(Muse)에서, 모든 로컬 앱과 터미널 명령이 사용자 계정을 완전히 장악할 수 있는 제로데이 취약점이 발견됐습니다. macOS 보안 전문가 패트릭 워들(Patrick Wardle)은 전사(transcription) 엔드포인트를 공격자 서버로 바꿔 인증 토큰을 탈취하는 개념 증명 공격을 개발했으며, 아마존은 뮤즈의 사이트 접근을 차단했습니다.
OpenAI가 곧 출시할 차세대 모델 '아스트라(Astra)'가 사람의 개입 없이 미공개 보안 취약점(제로데이)을 발견하고 악용할 수 있는 수준의 사이버보안 능력을 갖췄다고 밝혔다. 회사는 안전성 확보를 위해 고위험 계정 제한, 사고방지(chain-of-thought) 모니터링 등 다양한 조치를 취하고 있으나, 제3자 검증이 없어 실제 안전성 평가는 어렵다.
AI 보안 스타트업 AISLE은 앤스로픽의 최신 보안 모델 'Mythos'가 발견한 제로데이 취약점들을 소규모 오픈소스 LLM으로 테스트한 결과, 훨씬 저렴한 모델들도 동일한 분석 결과를 도출할 수 있음을 입증했습니다. 이는 AI 보안 역량이 모델의 크기에 비례해 부드럽게 상승하는 것이 아니라, 보안 전문성이 시스템 내에 어떻게 구축되는지가 핵심 경쟁력임을 시사합니다. 결과적으로 고성능 폐쇄형 모델 하나가 모든 것을 해결하는 것이 아니라, 작업에 따라 최적화된 모델을 선택하는 유연한 파이프라인 구축이 중요해졌습니다.