The Decoder • 29일 전

미군 AI 표적 선정 실수, 학교 폭격으로 이어져

IMP

9/10

핵심 요약

미군이 대규모 AI 표적 선정 시스템을 가동 중 오래된 데이터베이스 연동 문제로 인해 이란 학교를 폭격하는 참사를 초래했습니다. 이 사건은 AI 시스템의 빠른 의사결정 속도 이면에 구식 정보 인프라와 취약한 인간 검증 시스템이 가진 심각한 한계를 폭로합니다. 향후 군사 및 정책 입안자들은 AI 도입에 앞서 데이터베이스 연동 및 인명 구분 오류를 방지하기 위한 안전장치를 강화해야 합니다.

번역된 본문

구독자 전용 기사: 미군, AI로 수천 개의 표적을 선정했지만 한 곳이 학교라는 메모를 놓침 (Maximilian Schreiner 작성, 2026년 6월 29일)

이란 학교에 대한 미사일 공격에 대한 조사는 미군의 표적 선정 인프라에 심각한 허점을 폭로했습니다. AI는 본래 이러한 문제를 해결하는 역할을 해야 합니다.

정보 분석관의 누락된 메모와 상호 연결되지 않은 시스템: 로스앤젤레스 타임스의 보도에 따르면, 이 두 가지가 이란 학교에 대한 미사일 공격을 조사하는 과정에서 수사관들이 밝혀낸 핵심적인 실패 원인입니다. 이 2월 말의 공격으로 추정되는 120명의 어린이가 목숨을 잃었습니다.

이 공격은 미군이 이전 보도에 따라 최초로 대규모로 AI를 표적 선정에 사용했던 전쟁 중에 발생했습니다. 앤스로픽(Anthropic)의 클로드(Claude) 모델은 팰런티어(Palantir)의 메이븐 스마트 시스템(Maven Smart System)에 내장되어 첫날에만 약 1,000개의 표적을 제안했습니다.

공격이 있기 몇 년 전, 한 분석관은 이란 남동부 도시 미나브에 있는 한 시설의 변화를 발견했습니다. 미국은 이 건물을 이전에 이란 군 해군 시설로 분류했습니다. 하지만 그때쯤 그곳은 이미 초등학교로 변해 있었습니다.

아무도 보지 못한 메모 로스앤젤레스 타임스에 따르면, 그 분석관은 2019년에 디지털 정보 도구를 사용하여 이러한 변화를 시스템에 표시했습니다. 하지만 가장 치명적인 문제는 이 도구가 미군이 공격 표적을 개발하는 데 사용하는 공식 표적 데이터베이스와 연결되어 있지 않았다는 것입니다. 결국 이 정보는 지휘관들에게 전달되지 않았습니다.

해당 건물은 여러 차례 검토되었지만, 아무도 데이터베이스를 최신화하지 않았습니다. 뉴욕 타임스에 따르면 사용된 위성 이미지는 7년 전의 것이었습니다. 로스앤젤레스 타임스는 최소 두 개의 정보 데이터베이스가 공식 표적 데이터베이스와 전혀 연결된 적이 없다고 보도했습니다. 2010년대 중반 시리아에서도 표적 데이터가 종종 10~20년이나 된 경우가 있었습니다.

1980년대에 구축되어 여전히 수동 입력에 크게 의존하는 MIDB라는 데이터베이스가 이 시스템의 중심에 있습니다. 이것은 MARS라는 자동화된 시스템으로 대체될 예정이었지만, 전환 작업은 수년째 지연되고 있습니다. 미국 정부책임국(GAO)은 2020년에 이미 이 시스템의 고질적인 결함을 지적한 바 있습니다.

이러한 노후화된 인프라는 다른 분야에서 활약하는 AI의 빠른 속도와 극명한 대조를 이룹니다. 월스트리트 저널(WSJ)의 보고서는 초기 공격으로 타격된 표적의 수를 3,000개 이상으로 추산하며, 치명적인 결정에 대한 인간의 검토 및 감독 메커니즘에 대한 예산이 부족하다고 경고했습니다. 그럼에도 불구하고 미국 수사관들은 미군이 학교 공격에 책임이 있을 가능성이 높다고 판단했으며, LA 타임스의 보도는 이제 구체적인 기술적 결함을 통해 이 결론을 뒷받침하고 있습니다.

AI는 망가진 데이터베이스가 해결하지 못하는 문제를 고쳐야 한다 로스앤젤레스 타임스에 따르면, 일부 표적 선정 전문가들은 디지털 시스템을 서로 연결하고 AI를 더 많이 도입함으로써 향후 오류를 줄일 수 있기를 희망하고 있습니다. 구글 맵스와 같은 공개 서비스를 통한 자동 교차 확인은 시스템이 이상 징후를 발견해 인간에게 추가 검토를 요청하게 만들 수 있습니다.

미 국방부는 이 보고서가 나온 후 정확히 이 방향으로 움직이며, 에이전트 AI 이니셔티브를 공개했습니다. MIDB와 MARS를 모두 감독하는 국방정보국(DIA)은 블룸버그의 연락을 받았을 때 결함이나 지연된 전환 작업에 대해 직접적으로 언급하지 않았습니다. 대변인은 배정된 분석관들이 수행한 철저한 분석을 광범위하게 언급하기만 했습니다.

국방부 내부의 AI 선구자조차 경고음을 울리다 현재 미군의 표적 선정 교리에 따르면 군 지휘관이 표적의 우선순위를 정하고 공격을 결정합니다. 그들은 군사 시설과 민간 시설을 구별해야 합니다. 또한 기밀 정보의 정확성을 검증하는 '표적 사전 검증(target vetting)'이라는 선택적 절차도 존재합니다. 한 전직 고위 정보 당국자는 로스앤젤레스 타임스에 새로운 캠페인의 첫날 공격에서 지휘관이 이 단계를 건너뛰는 것은 상상할 수도 없는 일이라고 말했습니다.

미 중부사령부(Centcom)는 이란에 대한 작전 이전에 표적을 검토했지만, 이 선택적 검증 절차가 실제로 시작되었는지는 여전히 불분명합니다. 보고서에서 가장 날카로운 비판은 놀라운 인물에 의해 제기되었습니다. 공군 중장(퇴역) 잭 샤나한은 합동 AI 센터(Joint Artificial Intelligence Center)의 초대 소장이었습니다.

원문 보기

원문 보기 (영어)

Exclusive for subscribers The US military used AI to pick thousands of targets but missed a note saying one was a school Maximilian Schreiner View the LinkedIn Profile of Maximilian Schreiner Jun 29, 2026 Nano Banana Pro prompted by THE DECODER The probe into a missile strike on an Iranian school exposes serious gaps in the US military's targeting infrastructure. AI is supposed to close them. A missed note from an intelligence analyst and systems that didn't talk to each other: according to a Los Angeles Times report, these are the two central failures investigators uncovered while looking into a missile strike on an Iranian school. The late-February attack killed an estimated 120 children. The strike took place during a war in which the US military, according to earlier reports , used AI at scale for target selection for the first time. Anthropic's Claude model was embedded in Palantir's Maven Smart System and suggested roughly 1,000 targets on day one. Years before the strike, an analyst noticed changes at a site in the city of Minab in southeastern Iran. The US had previously classified the building as an Iranian military naval facility. By then, it had become an elementary school. A note nobody ever saw The analyst flagged the changes in 2019 using a digital intelligence tool, according to the LA Times. The critical problem was that the tool wasn't linked to the official target database the US military uses to develop strike targets. The information never reached commanders. The building was reviewed multiple times, but nobody updated the database. According to the New York Times, the imagery used was seven years old. At least two intelligence databases have never been connected to the authoritative target database, the LA Times reports. In Syria, target data in the mid-2010s was sometimes 10 or 20 years old. At the center sits a database called MIDB, built in the 1980s, that still relies heavily on manual input. It's supposed to be replaced by an automated system called MARS, but the transition is years behind schedule. The US Government Accountability Office flagged long-standing deficiencies in the system back in 2020. This aging infrastructure stands in stark contrast to the speed of AI elsewhere. A WSJ report put the number of targets hit in the first days at over 3,000 and warned that oversight mechanisms for human review of lethal decisions were underfunded. Even then, US investigators considered American forces likely responsible for the school strike, a conclusion the LA Times report now backs up with specific technical failures. AI is supposed to fix what broken databases can't Some targeting experts hope that connecting digital systems and adding more AI will reduce errors going forward, the LA Times reports. An automated cross-check against public services like Google Maps could flag anomalies for human review. The Pentagon moved in exactly that direction after the report, unveiling an agentic AI initiative. The Defense Intelligence Agency, which oversees both MIDB and MARS, didn't directly address the flaws or the delayed transition when contacted by Bloomberg. A spokesperson pointed broadly to the thorough analysis conducted by assigned analysts. The Pentagon's own AI pioneer sounds the alarm Under current US targeting doctrine, military commanders decide whether to prioritize and strike a target. They must distinguish military from civilian objects. There's also an optional process called target vetting that checks the accuracy of the underlying intelligence. One former senior intelligence official told the LA Times it would be unthinkable for a commander to skip that step during strikes on the first day of a new campaign. Centcom reviewed targets before operations against Iran, but whether the optional vetting process was initiated remains unclear. The sharpest criticism in the report comes from a striking source. Jack Shanahan, a retired Air Force three-star general, was the first director of the Joint Artificial Intelligence Center established in 2018. Before that, he led the AI program Project Maven. That makes him one of the architects of AI adoption in the US military, the same military now relying on that very Maven system. At the time, Shanahan predicted AI would play a central role in any potential conflict between the US and China, and that within 20 years, algorithms would compete against each other. Shanahan told the LA Times there is no excuse for a command failing to verify the accuracy of its intelligence. He described targeting itself as a moribund career field that withered over two decades while the military focused on counterterrorism. As early as 2017, he said, he could barely find people to fill these roles. AI News Without the Hype – Curated by Humans Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section. Subscribe now --> Read on for the full picture. Subscribe for hype-free coverage. Access to all THE DECODER articles. Read without distractions – no Google ads. Access to comments and community discussions. Weekly AI newsletter. 6 times a year: “AI Radar” – deep dives on key AI topics. Up to 25 % off on KI Pro online events. Access to our full ten-year archive. Get the latest AI news from The Decoder. Subscribe to The Decoder -->

미국방성 군사AI AI안전성 표적선정오류 데이터인프라