환각된 AI 보고서로 미군, 중국 선박 강제 승선 직전
2026년 봄, 미 특수작전사령부 분석가가 사용한 AI 챗봇이 중국 선박의 화물을 핵무기 부품으로 오판하는 허위 정보를 생성해, 미군이 무장 병력과 항공기를 동원한 강제 승선 작전 직전까지 갔던 사실이 CNN 보도로 드러났습니다. 미 국방부는 AI 도입을 가속화하고 있으나 AI 생성 정보 검증 표준이 없고, 상업용 제품을 겉만 바꾼 시스템과 젊은 분석가들의 맹목적 신뢰가 문제로 지적됩니다. 초지능보다 비판적 검증 없는 운용자의 손에 들어간 엉성한 AI 시스템이 실제 위험이라는 점을 보여주는 사례입니다.
미군이 환각(Hallucination)된 AI 생성 정보 보고서 때문에 중국 선박 승선을 몇 분 앞두고 중단할 뻔했다. 2026년 봄, 미 특수작전사령부(SOCOM)의 한 분석가가 사용한 챗봇이 중국 선박의 화물을 핵무기 부품으로 잘못 표시한 것이다(CNN 단독 보도). 무장한 병사들이 대기하고 항공기가 이미 공중에 떠 있는 상황에서 누군가 오류를 발견했다. 해당 챗봇은 "정부 보유 중인 오픈소스 정보(OSINT)와 기밀 신호정보(SIGINT)를 뒤섞어" 화물을 잘못 식별했으며, 이는 교과서적인 AI 헛소리(Bullshit) 사례다.
피트 헤그세스 국방장관은 가속화 전략을 통해 군 전반의 AI 도입을 추진하고 있지만, AI 생성 정보를 검증하는 통일된 표준은 없는 것으로 알려졌다. 소식통들은 내부 시스템 대부분이 상업용 제품에 '화장만 발라 놓은' 수준이며, 젊은 분석가들이 AI 도구를 의심 없이 신뢰하는 경향이 있다고 CNN에 말했다. 한 소식통은 "AI를 쓰면 나쁜 생각에 더 빨리 도달할 뿐"이라고 지적했다.
이 사건은 신 같은 AI보다 비판적 사고 없는 또는 악의적인 운용자의 손에 들어간 엉성한 시스템을 더 걱정해야 한다는 AI 리스크 옹호론자들의 주장에 정확히 부합한다.
출처: CNN