미군, AI 환각 보고서로 중국 선박 오폐 직전
미 특수작전사령부 소속 분석가가 챗봇으로 작성한情报 보고서에서 중국 선박이 핵무기 프로그램 부품을 운송한다고 잘못 식별해, 미군이 무장 병력과 항공기를 동원한 나포 작전 직전까지 갔던 것으로 밝혀졌다. 보고서는 '완전히 거짓'이었으며 '전쟁을 일으킬 뻔했다'는 증언이 나왔다. 이 사건은 전시 상황에서 AI 표적 식별 활용의 심각한 위험을 보여준다.
미 육군 병사들이 2026년 4월 무인 항공 시스템 훈련을 수행하고 있다.
이란과의 전쟁이 한창이던 지난 봄, 미군 전역에 유포된 이 정보 보고서는 즉시 비상이 걸리게 만들었다: 중동의 한 중국 선박이 핵무기 프로그램의 부품을 운송하고 있다는 내용이었다. 이 사건에 익숙한 네 명의 소식통에 따르면, 미군은 해당 선박을 요격하는 계획에 따라 즉시 움직였다. 이 중 두 소식통에 따르면 무장한 미군 요원들이 선박에 승선할 준비를 하고 있었고, 군용 항공기도 이미 공중에 떠 있었다.
계획된 작전 직전에야 관리들이 특수작전사령부 소속 분석가가 작성한 보고서를 더 깊이 파고들었고, 그 결과 이 보고서가 인공지능(AI)의 도움을 받아 작성되었으며, 분석가가 사용한 챗봇이 선박이 실은 화물을 부정확하게 식별했다는 사실을 발견했다. CNN은 잘못 식별된 화물이 무엇이었는지 확인할 수 없었다. 한 소식통에 따르면 이 보고서는 '완전히 거짓'이었다. 하지만 동시에 '전쟁을 일으킬 뻔했다'고 해당 소식통은 말했다. 중국 선박에 대한 미군 작업은 두 국가 간 무력 충돌로 확전될 위험이 있었다.
미군과 정보기관 전반에서 관리들은 방대한 원시 정보 분석과 타격 표적 선정부터 예산, 물류, 공급망 관리 같은 일상적인 업무까지 거의 모든 업무에 AI를 접목하려고 노력하고 있다. 하지만 이번 사건은 전쟁 중 표적 식별에 이 강력하고 새롭고 상대적으로 잘 이해되지 않는 기술을 사용하는 것의 심각한 위험을 부각시킨다. 분석가들은 국가가 잘못되거나 오염된 데이터에 의존할 경우 AI가 재앙적인 오판으로 이어질 수 있다는 우려를 오래전부터 해왔다 — 부정확한 정보를 근거로 미국이 중국 선박에 발포하게 만들 수 있는 그런 오판 말이다.
이 특정 사례에서 분석가는 하와이에 기반을 둔 미 태평양 특수작전사령부(USSOCOM Pacific)에서 시작된 선박 적하목록 관련 정보 보고에 대해 챗봇에 질의했다. 해당 챗봇이 상업용인지 미국 정부 제품인지는 명확하지 않았다. 군 및 정보 분석가들이 사용하는 AI 시스템을 잘 아는 전직 미 고위 관리는 '내부 도구들은 대부분 상업용 제품에 립스틱만 발라놓은 복제품'이라고 말했다.
해당 봇은 공개출처정보(OSINT)와 정부가 보유한 기밀 신호정보(SIGINT)를 결합해 선박 화물에 관한 치명적인 결론에 도달했다. 분석가는 다시 AI를 사용해 이 발견사항을 군 관리들이 신뢰하는 표준 정보 보고서 형식으로 패키징해 유포했다. 미 태평양 특수작전사령부와 펜타곤은 코멘트 요청에 응답하지 않았다.
AI를 신속히 도입하는 논리는 AI가 어떤 표적을 타격할지, 어떤 군사 자산을 어디로 이동할지 같은 전장 결정을 더 빠르게 내리도록 돕는다는 것이다. 관리들은 미국이 언젠가 중국이나 잠재적으로 미국보다 한발 앞설 수 있는 다른 적과 싸워야 할 경우를 대비해 AI 통합에서 뒤처질 여유가 없다고 말한다. 1월, 피트 헤그세스 국방장관은 군의 AI 사용을 가속화하기 위해 '인공지능 가속 전략'을 발표했다. 헤그세스는 전략 발표 연설에서 '우리는 실험을 촉진하고, 관료제 장벽을 제거하고, 투자를 집중하며, 군사 AI에서 우리가 선도하도록 보장하는 데 필요한 실행 접근 방식을 입증할 것'이라고 말했다. 이 전략은 또한 군 전반에 걸친 광범위한 AI 사용을 추진하며 해당 부처에 명령한다…