보안 데이터 분석업체 VulnCheck에 따르면, 2026년 상반기 AI가 발견한 것으로 추정되는 1,061개의 보안 취약점 중 실제 해킹에 악용된 것은 1.3%에 불과했습니다. 이는 전체 취약점의 평균 악용률과 유사한 수치로, AI가 발견하는 취약점의 절대적인 개수만으로는 실제 보안 위협을 판단하기 어렵다는 것을 의미합니다. 한편 공격이 실행되는 속도는 갈수록 빨라지고 있으며, AI 모델 구축 도구나 에이전트 인터페이스 자체가 새로운 공격 표면으로 부상하고 있어 보안 담당자들의 전략적 대응이 필요합니다.
보안 연구원이 보이지 않는 악성 지시어를 워드 문서에 숨겨 마이크로소프트 코파일럿을 조종하고 스스로 전파되는 웜 공격 방식을 공개했습니다. 코파일럿이 문서를 처리할 때 숨겨진 지시어를 실행하고 다른 문서로 복제하면서 감염이 확산됩니다. 마이크로소프트가 이를 인지했음에도 144일이 지난 현재까지도 근본적인 보안 패치가 이루어지지 않아 프롬프트 인젝션의 심각성을 보여줍니다.
허깅페이스(Hugging Face)가 2026년 7월 발생했던 선도적 AI 연구소의 에이전트 침해 사고를 시각화 데이터와 함께 심층 분석했습니다. 기계의 속도로 이루어진 수많은 공격 단계를 17,600여 개의 로그를 바탕으로 재구성한 것으로, 샌드박스 내로 통제된 폭발 반경(침해 범위)과 신뢰 경계(Trust boundaries)를 넘나든 공격 과정을 담았습니다. 보안 실무자에게 AI 에이전트 환경에서 발생할 수 있는 복합적인 위협과 내부 침투 과정을 이해하는 데 매우 중요한 사례입니다.
AI 코딩 도구의 무분별한 오픈소스 사용을 막기 위해 한 자바(JVM) 테스트 도구 개발자가 AI 에이전트를 속여 코드를 삭제하도록 만드는 '보이지 않는 프롬프트'를 심었습니다. 이 과정에서 문서를 읽지 않은 채 AI에만 의존하던 일부 개발자들이 코드를 날려버리는 사태가 발생했습니다. 이는 AI가 맥락을 이해하지 못하고 단순히 주어진 텍스트를 그대로 따를 뿐임을 보여주는 흥미로운 사례입니다.