404 Media와 더 인터셉트(The Intercept)가 협업해 진행한 라이브 팟캐스트에서는 AI가 이미 민간 감시 기업을 강화하고 수집된 데이터를 정부에 전달하는 방식, 전쟁에서 AI가 사용되는 실태, 그리고 AI 종말론의 가능성을 다룹니다. 9월 12일 로스앤젤레스에서 녹음된 이 팟캐스트는 AI의 감시·군사적 활용이라는 중요 정책적 이슈를 조명합니다.
우크라이나 국방부가 수만 회의 드론 비행에서 수집한 수백만 개의 데이터 포인트를 군수업체와 민간 기업에 개방하면서 전장이 AI 모델 학습의 현장으로 변모하고 있습니다. 전쟁의 혼돈 속에서 생성되는 예외적 상황 데이터는 실험실에서 재현 불가능한 값진 자산이어서 방산 업계에 막대한 상업적 가치를 지니지만, 이를 규율할 법적 체계는 아직 부재한 상황입니다.
미군이 대규모 AI 표적 선정 시스템을 가동 중 오래된 데이터베이스 연동 문제로 인해 이란 학교를 폭격하는 참사를 초래했습니다. 이 사건은 AI 시스템의 빠른 의사결정 속도 이면에 구식 정보 인프라와 취약한 인간 검증 시스템이 가진 심각한 한계를 폭로합니다. 향후 군사 및 정책 입안자들은 AI 도입에 앞서 데이터베이스 연동 및 인명 구분 오류를 방지하기 위한 안전장치를 강화해야 합니다.
방위 산업 스타트업 스카우트 AI(Scout AI)는 군용 자산을 운용하고 지휘하기 위한 '퓨리(Fury)'라는 AI 모델을 개발하며, 최근 1억 달러의 시리즈 A 펀딩을 유치했습니다. 이 회사는 기존 LLM을 기반으로 한 VLA(Vision Language Action) 기술을 활용해 전장과 같은 예측 불가능한 환경에서도 자율적으로 작전을 수행할 수 있는 군사용 AI를 구축하고 있습니다. 이는 자율주행 기술이 구조화된 도로 환경을 넘어 복잡한 오프로드 및 군사 작전 영역으로 확장되는 중요한 사례입니다.