뉴욕, 유명인 딥페이크 사이트 12곳 압수
뉴욕 지방검사가 AI로 만든 유명인 무단 음란물(딥페이크)을 유통한 웹사이트 12곳을 압수했다. 약 1,200명의 사진이 성적 이미지·영상으로 변조된 사상 최대 규모 압수로, 뉴욕은 2023년부터 성적 딥페이크를 형사처벌하는 법을 시행 중이다. 미국 전역에서 딥페이크 단속이 강화되는 흐름을 보여주는 사건이다.
뉴욕 지방검사는 월요일, 주로 유명인사와 공인을 대상으로 한 AI 생성 무단 친밀 이미지를 호스팅하던 12개 웹사이트를 압수했다고 발표했다. 검찰 측은 이번 압수가 이런 종류의 사이트에 대한 역사상 최대 규모라고 밝혔다.
검찰에 따르면 현재 수사 중인 이들 사이트의 이용자 및 운영자들은 AI 도구를 사용해 약 1,200명의 사진을 성적 행위에 관여하는 '초현실적' 이미지와 영상으로 변조했다. 해당 이미지에는 "정치인, 여러 국가의 영부인들, 그리고 배우, 정치인, 운동선수, 음악가, 사회정의 운동가, 소셜미디어 인플루언서 등 주로 대중에 노출된 인물들"이 담겨 있는 것으로 알려졌다.
뉴욕은 2023년부터 성적으로 노골적인 딥페이크를 특정적으로 형사처벌하는 법을 시행해 왔다. 브래그 지검장은 어떤 법에 따라 조치하는지 질문받자 이 법안을 언급했다.
브래그 지검장은 월요일 기자회견에서 "이 사이트들의 피해자들은 대부분 유명인이지만, 누구나 이런 범죄의 피해자가 될 수 있다는 것을 알고 있다. 특히 가정폭력 사건에서 그러하다. 우리가 다루는 많은 친밀 폭력 사건에 이미지와 영상을 이용한 협박이 포함되며, 딥페이크도 같은 방식으로 사용되고 있음을 알고 있다"고 말했다. 그는 "그래서 누구든, 생존자들에게 전하고 싶은 메시지는 같다. 당신은 혼자가 아니다. 도움을 받을 수 있다. 이미지가 허락 없이, 동의 없이 게시되었음을 알려주면, 해당 웹사이트가 맨해탄에서 접근 가능한 한 우리가 조치를 취할 수 있다"고 덧붙였다.
브래그 지검장은 이들 웹사이트에 미성년자 이미지가 포함되어 있는지에 대해서는 "수사가 진행 중"이라며 답변을 거부했다.
지난 6월에는 미국 법무부와 국토안보부가 "유명 여성을 누드로, 때로는 성적 행위에 관여하는 모습으로 합성한 수천 개의 디지털 변조 이미지와 영상"을 무단 게시하던 두 개의 도메인을 압수했다. 보도자료에 따르면 해당 사이트에는 '강간', '강제', '굴욕' 같은 주제가 포함되어 있었다. 그 사이트들의 이미지에는 정치인, 여러 국가의 영부인, 왕족, 언론인, TV 진행자, 운동선수, 연예인 등이 담겨 있었던 것으로 알려졌다.
또한 2025년 5월에는 캐나다방송(CBC), 슈피겔, 벨링캣의 조사 이후 초대형 딥페이크 호스팅 사이트이자 포럼인 MrDeepfakes.com이 폐쇄되었다.
이달 초에는 '테이크 잇 다운 법(Take It Down Act)' 위반으로 미국 내 최초로 유죄 판결을 받은 남성이, 기기에서 3,000개 이상의 실제 및 AI 생성 학대 이미지가 발견된 끝에 징역 15년을 선고받았다.
404 미디어는 지난달, 공인인 여성들의 이미지가 살짝 변조된 형태로 X.com 같은 소셜미디어를 잠식하고 있다고 보도했다. 이들 이미지는 완전한 누드 AI 이미지나 얼굴 합성 음란물이 아니라, 실제 사진·영상보다 더 노출적인 옷을 입힌 모습이나 디지털로 변형된 신체를 담은 것들이다.
뉴욕 지검은 딥페이크 피해자들에게 사이버범죄국((212) 335-9600)에 연락할 것을 권고했다. 브래그 지검장은 딥페이크 표적이 된 사람들이 대처할 수 있다는 사실을 모를 수 있으며, '순찰 중인 경찰'이 있다는 것을 알기를 원한다고 말했다.
브래그는 "이 콘텐츠를 만들고 유포하는 사람들에게 전하고 싶은 말은 이것이다. 당신들이 하는 일은 범죄다. 우리는 수사 중이며, 생존자들이 이 콘텐츠를 삭제하고 법을 어긴 사람들의 책임을 묻는 것을 지지한다"고 밝혔다.
저자 소개: 샘 콜(Sam Cole)은 인터넷의 깊은 곳에서 섹슈얼리티, 성인 산업, 온라인 문화, AI에 대해 쓰는 기자다. 저서로 'How Sex Changed the Internet and the Internet Changed Sex'가 있다.