미 국방부(펜타곤)가 인공지능(AI) 시스템에 대한 과도한 의존이 이란 내 학교에 대한 미사일 공격으로 이어졌다고 밝혔습니다. AI의 판단을 인간이 적절히 검증하지 않은 채 따른 것이 사고의 주요 원인으로 지목되었습니다. 이는 군사 분야에서 AI 활용 시 인간의 감독(human oversight)이 왜 중요한지 보여주는 사례로, AI 거버넌스 논의에 큰 영향을 줄 것으로 보입니다.
미국 국방부(펜타곤)가 OpenAI의 ChatGPT Mil과 xAI의 Grok for Government를 보안 포털 GenAI.mil에 추가해 300만 군·민간 인력에게 생성형 AI 도구를 제공한다. 소비자용 제품과 달리 데이터 수집에서 제외되는 것이 핵심이며, 이미 170만 명이 포털에 등록했다. 안전 가이드라인을 주장하며 무제한 사용을 거부한 Anthropic은 공급망 위험 기업으로 지정되어 법적 다툼 중이다.
미국 연방 판사 리타 린은 트럼프 행정부가 AI 기업 앤스로픽(Anthropic)을 '공급망 위험' 기업으로 지정해 연방 계약에서 배제한 조치가 위헌적 보복에 해당한다며 이를 무효화했습니다. 이 분쟁은 2억 달러 규모 군사용 클로드(Claude) 모델 계약 협상에서 앤스로픽이 치명적 자율무기·대규모 감시 시스템 활용 제한을 요구하자 국방장관 헤그세스가 거부하면서 촉발됐습니다.