미국 중간선거 앞두고 트럼프 지지 AI 가짜 인플루언서 확산
미국 중간선거를 앞두고 AI로 생성된 수백 개의 가짜 인플루언서 계정이 소셜 미디어에서 친(親)트럼프 콘텐츠를 대규모로 유포하고 있습니다. 단순 스팸일 가능성도 있지만, 동일한 캐릭터와 프로필을 공유하는 정치적 네트워크가 의심되는 상황으로, AI 합성 미디어가 선거 개입에 악용될 수 있다는 심각한 경고를 주고 있습니다.
AI로 생성된 가짜 인플루언서들이 소셜 미디어에서 정치적 콘텐츠를 확산시키며, 미국 선거에서 합성 미디어가 차지하는 역할에 대한 새로운 의문이 제기되고 있습니다.
뉴욕타임스(NYT)에 따르면, 미국 중간선거를 앞두고 틱톡(TikTok), 인스타그램(Instagram), 페이스북(Facebook) 등 소셜 네트워크에 수백 개의 친트럼프 가짜 계정이 우후죽순으로 생겨나고 있습니다. 이 계정들을 운영하는 AI 인플루언서들은 '급진 좌파'를 비난하고 '미국 우선(America First)' 메시지를 밀어붙이고 있습니다.
해당 매체는 올해 1월 이후 틱톡(TikTok)에서만 최소 304개의 이러한 계정을 추적했습니다. 퍼듀 대학교(Purdue)의 GRAIL 연구소는 틱톡, 인스타그램, 페이스북 전반에 걸쳐 10여 개의 계정을 추가로 발견했으며, 보안 기업 알레시아(Alethea)의 분석가 에릭 넬슨은 유튜브(YouTube)에서 9개의 계정을 찾아냈습니다. 그 예로는 틱톡 계정인 @perezfernandaus(첫 번째 영상)와 현재 삭제된 인스타그램 계정 'jessicaa.foster'(아래 두 번째 영상 참조) 등이 있습니다.
일부 계정은 3만 5,000명 이상의 팔로워를 모았으며, 개별 게시물은 조회수 50만 회를 넘어섰습니다. 도널드 트럼프 전 대통령 자신도 캘리포니아 주지사에 대해 근거 없는 주장을 펼치는 금발의 아바타 콘텐츠를 자신의 계정에 공유하기도 했습니다.
이 계정들 뒤에 누가 있는지는 아직 명확하지 않습니다. AI 광고 스타트업 더블스피드(Doublespeed)의 공동 창립자 주헤어 라카니(Zuhair Lakhani)는 NYT에 각 게시물의 제작 비용이 단 1~3달러에 불과하며, 한 명의 인력으로도 충분히 작업을 감당할 수 있다고 말했습니다.
틱톡(TikTok)은 이 계정들을 스팸으로 규정하고 삭제할 계획이라고 밝혔습니다. 이들이 '은밀한 영향력 작전'의 증거는 없으며, 단지 참여도(Engagement)를 노리는 스패머들일 뿐이라고 주장했습니다.
그러나 뉴욕타임스는 동일한 언어, 프로필 사진, 효과음을 사용하는 계정 클러스터(무리)가 존재한다고 지적했습니다. 농장에서 양갈래 머리를 한 금발 여성이나, 빨간색 'MAGA(미국을 다시 위대하게)' 모자와 비행사 고글을 쓴 흑인 여성 등 동일한 캐릭터가 여러 계정에 걸쳐 등장하며, 일부 계정은 서로 팔로우까지 하고 있습니다. 반면, 이에 비견될 만한 좌파 성향의 네트워크는 발견되지 않았습니다.
이러한 현상은 미국에만 국한되지 않습니다. 최근 일본의 중의원 선거를 전후로 일본 소셜 미디어에서도 가짜 AI 동영상과 메시지가 퍼졌습니다. 국제대학교의 야마구치 신이치 교수가 실시한 설문조사에 따르면, 응답자의 51.5%가 이러한 가짜 뉴스를 사실로 믿는 것으로 나타났습니다.