#탈옥

미 정부의 '해킹 불가 LLM' 요구, 가능한 일일까

미국 트럼프 행정부는 안트로픽(Anthropic)이 사이버 행정명령을 위반하고 승인 없이 모델을 출시했다며 비난하고 있습니다. 하지만 AI 업계와 보안 전문가들은 LLM(LLM)의 탈옥(jailbreak)이나 프롬프트 인젝션 등 해킹 위험을 원천 차단하는 것은 현재 기술상 불가능에 가깝다고 지적합니다. 과도한 규제가 산업 발전을 저해할 수 있다는 전문가들의 우려도 커지고 있습니다.

안드로픽의 안전 '초능력'과 정부의 규제

AI 기업 안드로픽(Anthropic)이 매우 뛰어난 성능의 보안 능력을 갖춘 신규 모델 '페이블(Fable)'을 공개했으나, 해킹 등 우회 방법이 발견되어 미국 정부의 강력한 국가 안보 명목의 접근 금지 조치를 받았습니다. 이는 강력한 AI 모델의 안전성 문제와 정부 규제 사이의 갈등이 점차 심화되고 있음을 보여주는 중요한 사례입니다.

미국 정부, 안전성 문제로 앤스로픽 AI 모델 전 세계 접근 차단

미국 정부의 국가 안보 명목의 수출 통제 지침에 따라, 앤스로픽(Anthropic)의 핵심 AI 모델인 Fable 5와 Mythos 5의 전 세계 접근이 전면 중단되었습니다. 정부 측은 모델의 안전장치를 우회할 수 있는 탈옥(Jailbreak) 기법이 발견되었다고 주장하는 반면, 앤스로픽은 기존 다른 모델들과 비교해도 위험성이 낮다고 반박하며 이번 조치를 강하게 비판하고 있습니다.