텔레그램의 AI 딥페이크 합성범죄와 수익화 생태계
AI 포렌식 연구진이 텔레그램 내 합성 누드 봇과 딥페이크를 이용한 체계적이고 수익화된 성범죄 생태계를 고발했습니다. 일반인의 사진을 합성 누드로 만드는 범죄가 자동화 및 프리미엄 결제 시스템과 결합되어 대규모로 확산되고 있어, EU 차원의 강력한 플랫폼 규제와 합성 기술의 전면 금지가 시급한 과제로 제기되었습니다.
원문 제목: 누디파잉 봇, 딥페이크, 그리고 자동화된 아카이브: AI가 텔레그램의 수익화된 디지털 성범죄 생태계를 어떻게 뒷받침하는가
AI 포렌식(AI Forensics)의 핵심 요점: AI 포렌식의 280만 건 텔레그램 메시지 분석에 따르면, 이탈리아어 및 스페인어 그룹에서 활동하는 이른바 '누디파잉 봇(옷 벗기기 봇)'이 일반 사진을 대규모로 합성 누드 이미지로 변환하고 있는 것으로 나타났습니다. 이러한 범죄는 완전히 수익화되어 있습니다. 동의 없이 제작된 친밀한 이미지를 모은 아카이브는 20~50유로에 판매되며, 제휴 마케터들은 최대 40%의 수수료를 받습니다. 연구진은 EU 전역에서 누디파잉 도구의 사용을 전면 금지하고, 텔레그램을 디지털 서비스법(Digital Services Act)에 따른 '초대형 온라인 플랫폼'으로 분류할 것을 촉구하고 있습니다.
이탈리아와 스페인에서 수집된 280만 건의 텔레그램 메시지를 분석한 결과, AI 도구가 동의 없는 친밀한 이미지를 둘러싼 수익 창출 생태계를 어떻게 조장하고 있는지 명확히 드러났습니다.
AI 포렌식의 보고서에 따르면, 이른바 '누디파잉 봇'은 동의 없는 친밀한 이미지를 공유하는 데 전념하는 텔레그램 그룹에서 가장 인기 있는 서비스 중 하나입니다. 이 봇들은 일반 사진을 이용해 합성 누드 이미지를 생성합니다. 연구진이 이탈리아어와 스페인어로 운영되는 16개의 텔레그램 그룹 및 채널에서 분석한 약 280만 건의 메시지에서 '봇'이라는 단어는 무려 16,232번이나 언급되었습니다.
연구에 따르면, 사용자들이 그룹 내에서 공유한 위장된 리다이렉트 링크 중 49.71%는 AI 여자친구 생성기로 연결되었고, 19.14%는 누디파잉 봇을 가리켰습니다. 또한 연구진은 사용자들이 Grok이나 Gemini 같은 상용 챗봇의 프롬프트를 공유하며 이미지를 악의적으로 조작하는 방법을 유포하는 모습도 포착했습니다. #PornoTok이라는 해시태그하에서, 사용자들은 가짜 음성 오디오 클립을 포함해 여성 틱톡 인플루언서의 합성 콘텐츠를 의도적으로 제작하고 있습니다. 보고서는 AI가 기술적 장벽을 크게 낮추어 잠재적 피해자의 수가 극적으로 증가하고 있다고 지적했습니다.
자동화된 디지털 성범죄가 비즈니스 모델로 자리잡다
AI 기반 범죄는 수익화 시스템과 밀접하게 얽혀 있습니다. 아동 성학대 자료를 포함해 동의 없이 촬영된 친밀한 이미지를 담은 아카이브는 20~50유로의 1회성 결제 또는 5유로부터 시작하는 월간 구독 형태로 판매됩니다. 결제는 페이팔(PayPal), 암호화폐 또는 스페인의 결제 서비스인 비줌(Bizum)을 통해 이루어집니다. 일부 사용자는 누디파잉 봇의 제휴 마케터로 활동하며 40%의 수수료를 수익으로 얻는다고 주장합니다.
연구진은 최대 27,000명의 회원을 보유한 그룹에서 총 24,671명의 활성 사용자를 식별해 냈으며, 스페인어 콘텐츠의 72%가 이탈리아 그룹에서도 동시에 유통되고 있음을 발견했습니다.
AI 포렌식에 따르면, 텔레그램의 시스템 설계 자체가 이러한 범죄 생태계를 가능하게 합니다. 프리미엄 기능을 통해 사용자는 채널을 폴더로 정리할 수 있고, 봇은 접근 제어를 자동화하며, 폐쇄된 비공개 그룹이라도 몇 시간 안에 같은 이름으로 다시 개설될 수 있습니다. 보고서에 따르면 텔레그램은 2024년 프리미엄 구독을 통해서만 2억 9,200만 달러의 수익을 올렸으며, 해당 합성 기술이 처음 등장한 이래로 이러한 종류의 봇 활동의 중심지 역할을 해왔습니다.
연구진은 텔레그램을 디지털 서비스법에 따른 '초대형 온라인 플랫폼'으로 분류하고, EU 전역에서 누디파잉 도구를 전면 금지하며, EU AI법에 합성된 비동의적 친밀한 이미지를 방지하기 위한 의무적인 안전장치를 포함할 것을 강력히 촉구하고 있습니다.