The Decoder • 16일 전

앤스로픽 연구원의 경고, CNN·폭스뉴스로 'AI 안전 공포' 대중화

IMP

7/10

핵심 요약

앤스로픽을 떠나는 연구원 제이콥 콕슨의 '자가 개선 AI가 인류 존재를 위협한다'는 경고가 CNN과 폭스뉴스에 보도되며 AI 안전 논란이 주류로 확산했습니다. 미국 정치인들과 조 로건까지 화제에 참여했고, 오픈AI·앤스로픽의 다른 안전 연구자들도 이를 지지했습니다. 다만 이러한 경고 뒤에는 문화적·재정적 이해관계가 작용하며, 완전한 멸종 시나리오는 여전히 극단적이고 논쟁적인 입장이라는 점이 지적됩니다.

번역된 본문

AI가 인류를 멸절시킬 수 있다는 생각이 공식적으로 주류가 되었습니다. 앤스로픽을 떠나는 연구원 제이콥 콕슨(Jacob Coxon)이 자가 개선(self-improving) AI를 존재론적 위협으로 경고한 발언이 큰 반향을 일으켜 CNN과 폭스뉴스에 출연하게 되었습니다. 여러 미국 정치인들이 소셜 미디어에서 이 주제를 다뤘고, 조 로건(Joe Rogan)은 AI 안전을 주제로 한 에피소드를 통째로 할애했습니다. 앤스로픽과 오픈AI의 다른 안전 연구자들도 콕슨의 견해를 지지했습니다. 폴 크리스티아노(Paul Christiano)는 더 나은 감독 없이는 인류가 초지능(superintelligence)에 대한 통제권을 영구적으로 잃을 수 있다고 경고했습니다. 크리스티아노는 최근 오픈AI 재단 이사회와 회사의 안전 관행을 감독하는 안전보안위원회(Safety and Security Committee)에 합류했지만, 의결권은 없습니다. 이 소식이 불안하다 해도 당황하지 마세요. 이러한 경고 뒤에는 여러 겹의 문화적·재정적 이해관계가 작용하고 있습니다. 그렇다고 모든 안전 우려가 허튼소리라는 뜻은 아닙니다. 오픈AI와 앤스로픽의 해킹 에이전트 사고들이 보여주듯 실제 위험은 존재하니까요. 하지만 완전한 멸종 시나리오는 여전히 극단적이고 논쟁적인 입장입니다. 오늘날의 기술로 초지능과 비슷한 무언가가 등장할 수 있을지조차 불분명합니다. 그러니 이건 실리콘밸리의 집단 히스테리일 수도 있습니다. 아니면 아닐 수도 있는데, 그렇다면 행운을 빕니다.

원문 보기

원문 보기 (영어)

AI safety panic goes mainstream after Anthropic researcher's warnings land on CNN and Fox News Matthias Bastian View the LinkedIn Profile of Matthias Bastian Sep 10, 2026 The idea that AI could wipe out humanity has officially gone mainstream. Departing Anthropic researcher Jacob Coxon's warnings about self-improving AI as an existential threat caused enough of a stir to land him on CNN a nd Fox News . Several US politicians picked up the topic on social media, and Joe Rogan devoted an entire episode to AI safety. Other safety researchers at Anthropic and OpenAI supported Coxon's views. Paul Christiano warned that without better oversight, humanity could permanently lose control over a superintelligence. Christiano just joined the OpenAI Foundation board and its Safety and Security Committee , which oversees the company's safety practices, though without voting rights. If this is making you anxious, don't panic. Multiple layers of cultural and financial interests are at play behind these warnings. That doesn't mean all safety concerns are nonsense, as rogue hacking agents from OpenAI and Anthropic have shown. But the full extinction scenario remains an extreme and contested position. It's also unclear whether anything resembling a super AI could even emerge from today's technology. So it might just be Silicon Valley mass psychosis. Or it might not, in which case: good luck. Ad Ad AI News Without the Hype – Curated by Humans Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section. Subscribe now Source: CNN Ask about this article… Search

AI 안전 앤스로픽 오픈AI 초지능 규제