The Decoder • 8일 전

미·중 전문가들, AI의 핵무기 통제 금지 공동 규범 촉구

IMP

8/10

핵심 요약

미국 브루킹스연구소와 중국 푸단대학 전문가들이 9월 24일 예정된 트럼프-시진핑 정상회담에 앞서 AI가 핵무기 발사나 핵 지휘체계 공격을 자율적으로 결정하는 것을 금지하는 구체적 제안을 발표했습니다. 양국은 '인간 통제'의 공동 정의를 마련하고, AI 사고 오인으로 인한 긴장 격화를 막기 위한 핫라인 설치도 제안됐습니다. 다만 2023년 정찰풍선 위기 당시 중국이 미국의 전화를 받지 않은 사례처럼 실효성에 대한 의문도 제기됩니다.

번역된 본문

미·중 전문가들, AI의 핵무기 통제 금지 공동 규범 촉구

마누엘 우트, 2026년 9월 18일

미국과 중국의 전문가들이 AI 시스템이 핵무기 사용에 관해 자율적으로 결정을 내리는 것을 막고자 한다. 브루킹스연구소의 멜라니 시슨과 푸단대학의 장톈자오(姜天骄)는 9월 24일로 예정된 트럼프-시진핑 정상회담에 앞서 구체적인 제안을 발표했다.

이 제안은 여러 '레드라인(금지선)'을 명시한다. 어떤 AI 시스템도 스스로 핵무기를 발사하거나 핵 지휘체계를 공격하는 것은 허용되어서는 안 된다. 전략 기반시설에 대한 AI 기반 사이버공격은 인간이 단독으로 통제권을 가져야 한다. 양국은 '인간 통제(human control)'에 대한 공동 정의에 합의해야 한다.

이 권고는 2024년 11월 바이든과 시진핑이 达成한 합의에 기반한 것이다. 장 교수는 또한 AI 사고 대응 핫라인을 제안한다. 방어용 AI 시스템이 의심스러운 활동에 자동으로 대응하면 상대방이 이를 공격으로 해석할 수 있다. 직통 회선이 있으면 정부가 사태가 확대되기 전에 해당 사건이 우발적이었음을 상대방에게 설명할 수 있다.

이런 경고가 처음은 아니다. 미국 인공지능 국가안보위원회(NSCAI)는 이미 2021년에 핵무기에 대한 인간 통제 유지를 촉구한 바 있다. 그러나 구속력 있는 메커니즘은 여전히 존재하지 않는다. 존스홉킨스대학의 칼라 프리먼은 이러한 핫라인이 실제로 작동할지 의문을 제기한다. 2023년 정찰풍선 위기 당시 미국이 전화를 걸었지만 중국은 응답하지 않았다.

출처: 브루킹스연구소

원문 보기

원문 보기 (영어)

US and China experts push for shared rules banning AI control over nuclear weapons Manuel Uth Sep 18, 2026 Experts from the US and China want to prevent AI systems from making autonomous decisions about deploying nuclear weapons. Melanie Sisson of the Brookings Institution and Tianjiao Jiang of Fudan University published specific proposals ahead of a planned meeting between Trump and Xi on September 24. The proposals spell out several red lines. No AI system should be allowed to launch nuclear weapons on its own or attack nuclear command systems. Humans must retain sole control over AI-driven cyberattacks on strategic infrastructure. Both countries should agree on a shared definition of "human control." The recommendations build on an agreement Biden and Xi reached in November 2024. Jiang also proposes a hotline for AI incidents. If a defensive AI system automatically responds to suspicious activity, the other side might read it as an attack. A direct line would let one government clarify that an incident was accidental before the situation escalates. Ad This isn't the first time someone has raised the alarm. The National Security Commission on Artificial Intelligence (NSCAI) called for preserving human control over nuclear weapons back in 2021 . Binding mechanisms still don't exist, though. Carla Freeman of Johns Hopkins University questions whether such hotlines would even work. During the spy balloon crisis in 2023, China didn't pick up when the US called. Ad AI News Without the Hype – Curated by Humans Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section. Subscribe now Source: Brookings Ask about this article… Search

AI 안전 핵무기 미중관계 AI 규제 국가안보