The Decoder • 15일 전

전직 딥마인드 홍보 담당자 "AI 인류 멸종 위험 공개 논의 금지됐었다"

IMP

6/10

핵심 요약

2018~2022년 딥마인드 홍보·정책팀에서 일한 비샬 마이니는 인류 멸종 가능성에 대한 대외 커뮤니케이션이 조직 어느 수준에서도 허용되지 않았다고 폭로했다. 연구자들은 이러한 위험을 '알람주의'로 치부하고 '터미네이터 같은 영화'에 비유하며 의료·기후 등 긍정적 활용으로 화제를 돌리도록 코칭받았다. 내부적으로는 AI 정렬 문제가 해결되지 않았으며 담당 인력이 턱없이 부족하다는 것을 알고 있었고, 이는 AI 기업의 내부 인식과 대외 메시지 간 격차를 보여준다는 점에서 중요하다.

번역된 본문

전직 딥마인드 홍보 담당자, 연구소가 한때 AI 멸종 위험 공개 논의를 금지했다고 주장하다

놀랍지는 않지만 여전히 시사하는 바가 크다. 2018년부터 2022년까지 딥마인드의 커뮤니케이션 및 정책팀에서 일한 비샬 마이니(Vishal Maini)는 "인류 멸종 가능성에 대한 대외 커뮤니케이션은 조직의 어떤 수준에서도, 누구에게나 허용되지 않았다"고 말했다.

연구자들은 그러한 위험을 알람주의(alarmism)로 일축하고, '터미네이터 같은 영화'에 비유하며, 대신 의료나 기후 분야의 긍정적 활용 사례로 화제를 전환하도록 코칭받았다.

내부적으로는 팀이 AI 정렬(alignment) 문제가 해결되지 않았으며 "그 문제에 종사하는 사람이 너무 적다"는 사실을 알고 있었다. 수개월간의 반발 끝에 딥마인드는 규정을 완화했다. 긍정적으로 구성된 안전 콘텐츠는 승인을 받았으며, 멸종 위험을 친근한 언어로 포장한 블로그 포스트도 포함되었다.

마이니는 내부 지식과 대외 메시지 사이의 격차가 "지금은 증거를 무시하기가 더 어려워졌기 때문에" 줄어들고 있다고 말한다.

그의 폭로는 위험한 행동을 가능하게 할 수 있는 보호되지 않은 모델이나 인간의 통제를 벗어날 수 있는 고급 시스템에 대해 경고하며 공개적으로 목소리를 높이는 AI 안전 연구자들이 점점 늘어나는 가운데 나왔다. 딥마인드 소속 연구자들도 목소리를 높이는 이들 중 하나다.

과장 없는 AI 뉴스 – 사람이 직접 엄선 THE DECODER를 구독하면 광고 없는 읽기, 주간 AI 뉴스레터, 연 6회 발간되는 독점 'AI 레이더' 프론티어 리포트, 전체 아카이브 접근, 댓글 섹션 이용이 가능합니다. 지금 구독하세요.

출처: X 경유

원문 보기

원문 보기 (영어)

Former Deepmind PR staffer says the lab once banned public discussion of AI extinction risk Matthias Bastian View the LinkedIn Profile of Matthias Bastian Sep 10, 2026 Not surprising, but still telling. Vishal Maini , who worked on Deepmind's communications and policy team from 2018 to 2022, says "external communication about the possibility of human extinction was not permitted, by anyone, at any level of the organization." Researchers were coached to dismiss those risks as alarmism, compare them to "movies like Terminator," and pivot to positive applications in healthcare or climate instead. Internally, the team knew the AI alignment problem was not solved and "there were far too few people working on the problem." After months of pushing back, Deepmind loosened the rule. Positively framed safety content got the green light, including a blog post that wrapped extinction risk in friendly language. Maini says the gap between internal knowledge and public messaging is shrinking "because the evidence is harder to dismiss now." His account comes as a growing number of AI safety researchers are speaking out publicly , warning about unsecured models that could enable dangerous actions or advanced systems that could slip beyond human control. Researchers at Deepmind itself are among those raising their voices. Ad Ad AI News Without the Hype – Curated by Humans Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section. Subscribe now Source: via X Ask about this article… Search

딥마인드 AI 안전 AI 정렬 AI 리스크 커뮤니케이션