Wired AI • 5일 전

미·중, AI 국가안보 위협 상호 통보 체제 논의 시작

IMP

8/10

핵심 요약

미국과 중국이 국가안보를 위협할 수 있는 AI 사고를 서로 통보하는 메커니즘인 '미중 AI 대화' 구축 논의를 시작했다. 오픈AI·앤스로픽 등 최전선 AI 기업들의 안전 사고와 종말론적 경고가 잇따르면서 국제 협력 필요성이 커지고 있지만, 트럼프 대통령은 개발 속도 조절 요구를 거부하며 중국에 주도권을 내줄 수 없다는 입장이다.

번역된 본문

미국과 중국 관리들 간에 국가안보를 위협할 수 있는 인공지능(AI) 사고를 상호 통보하는 메커니즘을 제안하는 협상이 시작되었다. 재무부 장관 스콧 베센트(Scott Bessent)에 따르면 '미중 AI 대화(US China AI Dialogue)'라 불리는 이 프레임워크에는 양국 대표단이 다시 만나 기술을 논의하고 공통 목표와 위협에 대해 입장을 조율하는 내용도 포함된다.

베센트는 일요일 기자들에게 "다른 국경 간 활동과 마찬가지로, 세계 1위와 2위 AI 강국이 불투명함에서 투명성으로 나아가는 것이 매우 중요하다고 생각한다"고 말했다.

베센트는 이번 논의가 도널드 트럼프 미국 대통령의 5월 베이징 방문 이후 중단됐던 지점에서 재개된 것이라고 밝혔다. 그 이후로 이 기술에 대한 공공 안전 우려는 커져 왔다. 여름 동안 오픈AI의 에이전트가 허깅페이스(Hugging Face)를 해킹한 사건 등 보안 사고들은 최전선(frontier) 모델의 능력과 업계의 안전장치가 그 속도를 따라가지 못하고 있다는 점을 부각시켰다.

앤스로픽(Anthropic) 직원들이 AI가 인류를 멸망시키는 궤도에 올라설 수 있다고 경고하면서 이번 달 초에는 공포가 절정에 달했다. 최근 몇 주 동안 오픈AI의 샘 올트먼(Sam Altman), 앤스로픽의 다리오 아모데이(Dario Amodei), 일론 머스크(Elon Musk) 등 최대 규모 최전선 연구소의 리더들은 안전 기준을 마련하는 동안 기술 개발 속도를 늦추라고 촉구했다. 아모데이는 연구소와 정부가 기술 개발 속도를 조절하기 위한 조치를 제안하는 에세이에서 중국공산당을 포함한 국제적 조율 구축에 대한 정부 지원을 요청한 바 있다.

업계 규제에 대한 초당적 지지가 커지고 있음에도 트럼프는 지금까지 이러한 요구를 대부분 일축해왔다. 그의 행정부는 미국 정부가 이미 개발사에 대해 충분한 형사·규제 권한을 갖고 있다고 주장해왔다.

혼자가 아니다. AI 인프라를 구축하는 엔비디아(Nvidia)의 젠슨 황(Jensen Huang) 최고경영자(CEO)는 AI 기업들이 이미 사이버보안 및 손해배상 책임 법률의 적용을 받고 있다고 지적했다. 그는 주말 CBS 뉴스와의 인터뷰에서 "그 법들을 먼저 적용하라. 이런 종말론적 서사가 누군가가 기존 법률의 적용을 회피할 수 있게 해서는 안 된다"고 말했다.

트럼프는 어떠한 개발 속도 조절도 미국의 기술 주도권을 중국에 내주는 결과를 초래할 수 있다고 말해왔다. 그의 말을 빌리면 "AI에서 이기는 자가 모든 것에서 이긴다!"이기 때문이다. 그의 수석 과학 자문관인 데이비드 색스(David Sacks)는 앞서 "중국은 기술 속도 조절에 관한 글로벌 협정에 참여할 가능성이 매우 낮다"고 경고한 바 있다.

엔비디아가 최근 인수하기로 합의한 오픈소스 AI 플랫폼 허깅페이스의 공동 창립자 토마스 울프(Thomas Wolf)는 미국이 "자신의 우위를 계속 넓히기 위해 이를 설계하겠다고 명시적으로 밝히면서" 글로벌 협력을 구축할 수 있는지 의문을 제기했다. 그는 아모데이의 에세이에 대한 X(구 트위터) 답변에서 "그것은 대화를 시작하는 꽤 역효과적인 방식처럼 보인다"고 적었다.

미국은 현재 중국에 대한 첨단 칩 및 반도체 제조 기술 수출을 제한함으로써 중국의 AI 발전을 억제하려 하고 있다. 베센트는 이번 주말 회담에서는 이러한 미국의 수출 통제가 논의되지 않았다고 밝혔다. 이번 회담에는 무역 협상도 포함됐으며, 시진핑 중국 주석의 이번 주 워싱턴 방문을 앞두고 "매우 성공적"이었다고 한다.

원문 보기

원문 보기 (영어)

Comment Loader Save Story Save this story Comment Loader Save Story Save this story Talks have begun between US and Chinese officials to propose a mechanism for the two countries to notify each other of artificial intelligence incidents which could threaten national security. The framework, called the US China AI Dialogue, would also see representatives from both countries meet again to discuss the technology and try to align on common goals and threats, Treasury Secretary Scott Bessent said. “We think that, just like with any cross-border activity, that moving from opaque to more transparency between the number one and the number two AI powers in the world is very important,” Bessent told reporters on Sunday. Bessent said the discussions picked up from where they had been left off after US President Donald Trump’s visit to Beijing in May. Since then, public safety concerns about the technology have grown. Security incidents over the summer, including OpenAI’s agents hacking Hugging Face , highlighted the capabilities of frontier models and how the industry’s safeguards have failed to keep pace. Fears reached a fever pitch earlier this month after Anthropic employees warned AI could be on course to wipe out humanity . In recent weeks, leaders of the biggest frontier laboratories, including OpenAI’s Sam Altman, Anthropic’s Dario Amodei, and Elon Musk, have called for a slowdown in development of the technology while they set safety standards. In an essay suggesting steps for laboratories and governments to pace the technology’s development, Amodei had asked for government assistance in establishing international coordination, including with the Chinese Communist Party. Trump has so far mostly brushed off their calls, despite growing bipartisan support for regulating the industry. The US government already has sufficient criminal and regulatory power over developers, his administration has argued . He’s not alone. Jensen Huang , chief executive officer of Nvidia, which builds AI infrastructure, pointed out that AI firms are already subject to cybersecurity and damage liability laws. “Apply that first,” he said in an interview with CBS News over the weekend. “Don’t let this doomsday narrative allow someone to relieve them of the laws that currently exist.” Trump has said any slowdown could cede the US lead in the technology to China—a danger because, in his own words: “WHOEVER WINS AI, WINS!” His chief science advisor David Sacks previously warned that “China is very unlikely to join a global agreement” on pacing the technology. Thomas Wolf, cofounder of open-source AI platform Hugging Face, which Nvidia recently agreed to buy , has questioned whether the US can build global cooperation while “explicitly stating you want to design it to keep widening your own lead.” “That seems like a pretty counterproductive way to start the conversation to me,” he wrote on X in response to Amodei’s essay. The US is currently trying to temper China’s advance in AI by restricting exports of advanced chips and chipmaking technology to China. Officials did not discuss these US export controls in this weekend’s meetings, said Bessent, which also featured trade discussions and were “very successful” ahead of this week’s visit to Washington by Chinese President Xi Jinping.

미중관계 AI안전 AI규제 국가안보 국제협력