머스크·저커버그의 전화 한통에 AI 안전 행정명령 철회
도널드 트럼프 미국 대통령이 AI 안전 관련 행정명령 서명을 불과 몇 시간 앞두고 이를 전면 취소했습니다. 일론 머스크, 마크 저커버그, 전 AI 보좌관 데이비드 삭스 등이 트럼프와 직접 통화하며 규제가 AI 발전을 저해하고 미국의 대중국 경쟁력을 위협할 수 있다고 경고한 것이 결정적이었습니다. 이에 따라 AI 기업들이 최신 모델을 연방 정부에 자발적으로 제출해 안전성 검토를 받도록 하는 해당 명령안은 전면 재작업을 거치게 되었습니다.
도널드 트럼프 미국 대통령이 목요일에 예정되어 있던 AI 안전 행정명령 서명을 취소했다. 여러 보도에 따르면, 일론 머스크, 마크 저커버그, 전 AI 보좌관 데이비드 삭스의 전화 통화가 결정적인 계기가 되었다.
백악관은 이미 최대 빅테크 기업 최고경영자(CEO)들에게 참석 초대장을 보낸 상태였다. 워싱턴 포스트(Washington Post)에 따르면, 일부 임원들은 이미 워싱턴으로 향하는 도중이었다. 트럼프는 계획된 서명식 몇 시간 전에 백악관 집무실(Oval Office)에서 열릴 예정이었던 서명을 취소했다. 그는 초안이 마음에 들지 않으며, 미국의 대중국 AI 경쟁 리더십을 위협할 수 있는 어떠한 조치도 원하지 않는다고 밝혔다.
이번 취소는 수요일 밤부터 목요일 아침 사이에 이어진 쇄도하는 전화 통화들 이후에 이루어졌다. 스페이스X(SpaceX) CEO 일론 머스크, 메타(Meta) 창립자 마크 저커버그, 전 AI 및 암호화폐 보좌관 데이비드 삭스가 자신들의 우려를 트럼프에게 직접 전달했다. 워싱턴 포스트와 폴리티코(Politico)에 따르면, 이들은 계획된 검토 시스템이 AI 개발 속도를 늦출 수 있다고 경고했다.
해당 명령은 자발적인 검토 시스템을 구축할 예정이었다. AI 기업들은 최신 프론티어 모델(frontier model)을 출시 90일 전까지 연방 기관에 제출해야 한다. 이를 통해 정부는 위험한 기능을 테스트하고 해커나 외국 세력이 악용하기 전에 취약점을 찾을 수 있을 전망이었다. 초안에는 정부의 의무적인 라이선스 부여나 사전 승인은 명시적으로 배제되어 있었다. 워싱턴 포스트에 따르면, 이러한 조치는 코드의 보안 취약점을 독립적으로 찾아내고 악용할 수 있는 앤스로픽(Anthropic)의 '미토스(Mythos)'와 같은 새로운 모델에 대응하기 위해 추진되었다.
데이비드 삭스의 마지막 순간 입장 번복 데이비드 삭스는 과학 보좌관 마이클 크라치오스, 비서관 윌 샤프, 국가 사이버 국장 션 케어크로스로부터 해당 초안에 대한 브리핑을 받았다. 그는 처음에는 이 초안을 수용할 수 있다는 뜻을 내비쳤다. 하지만 워싱턴 포스트에 따르면, 수요일 늦은 밤부터 이 자발적 시스템이 사실상 의무화되어 향후 행정부에 의해 악용될 수 있다는 우려를 제기하기 시작했다.
폴리티코가 백악관 고위 관리를 인용해 보도한 바에 따르면, 목요일 아침이 되자 그는 자신의 참모진을 포함해 아무에게도 알리지 않고 트럼프에게 직접 전화를 걸어 전체 계획을 무산시켰다.
한 정부 관리는 액시오스(Axios)에 이번 조치는 불필요한 노력이며, 이른바 '파멸론자(doomers)'들이 원했던 것에 불과하다고 말했다. '파멸론자'는 기술 업계에서 진보된 AI 시스템의 실존적 위험에 대해 경고하고 정부의 안전 검토를 촉구하는 목소리를 멸시적으로 부를 때 흔히 사용되는 용어다.
이번 명령안은 산업계 내부에서도 의견이 엇갈렸다. 폴리티코에 따르면, 오픈AI(OpenAI) 로비스트 크리스 레인(Chris Lehane)은 이 명령을 전반적으로 지지했다. 반면 다른 기업들은 90일간의 검토 기간을 14일로 단축하라고 요구했다. 또한 안전성 검토는 일반적으로 CISA(미국 사이버보안인프라보안국)와 NIST(미국 국립표준기술연구소)가 담당하는데, 명령안에서 재무부에 주도적인 역할을 부여한 점도 의아하게 여겨졌다.