AI 스팸, 반데이터센터 감정 자극하다
미국 내 데이터센터 반대 여론을 악용해, 외국 기반의 AI 스팸 운영자들이 페이스북에서 수백 개의 가짜 계정을 만들어 이익을 취하고 있습니다. 이들은 생성형 AI로 '데이터센터 건설을 반대하는 농부' 등의 가짜 이미지를 무단으로 뿌리며, 지역 주민들의 불안(소음, 전기요금, 환경 문제)을 자극하는 선전물을 유포합니다. AI가 만들어낸 혐오 콘텐츠(Slop)가 사용자 참여를 유도하는 수단으로 진화하고 있어 그 배경과 실태를 보여줍니다.
미국의 정치적 관심사를 알아보는 지표를 찾고 있다면, 페이스북에서 스팸 계정들이 어떤 AI 생성 쓰레기 이미지(AI-generated slop)를 만들어내는지 확인하는 것도 나쁘지 않은 방법입니다. 현재 '텍사스의 삶(Life in Texas)', '위스콘신의 역사(History of Wisconsin)', '아이다호는 삶(Life Is Idaho)'과 같은 이름을 가진 수백 개의 페이지가 전국적인 반데이터센터 감정에 편승하는 AI 생성 이미지들을 쏟아내고 있습니다.
내가 본 가장 흔한 유형의 반데이터센터 스팸 이미지 중 하나는 끝없이 펼쳐진 농경지에 "데이터센터에 이 땅의 단 1인치도 내줄 수 없다"와 같은 메시지를 풀로 깎아 만든 모습입니다. 이 이미지는 각 주의 타겟 독자층에 맞게 맞춤화됩니다. 미시간주 버전에는 거대한 호수와 '미시간'이라고 적힌 물탱크로 둘러싸인 들판에 "우리의 위대한 호수. 우리의 숲. 우리의 지역사회. 우리의 미래"라고 적혀 있었습니다. 켄터키주 버전은 같은 메시지를 반복하면서 풀밭에 "블루그래스, 버번, 그리고 말. 켄터키"라는 문구를 추가했습니다. 게시물의 캡션에서는 해당 주의 시골 농부가 제안된 데이터센터에 항의하는 표시로 밭에 글자를 깎았다고 설명했습니다. 개별 주의 삶을 주제로 한 수백 개의 페이지가 돌아다니며, 사실상 동일한 이미지의 유사한 버전들을 공유하고 있습니다. "와우. 페이스북을 보니 모든 주의 모든 농부가 이 짓을 했다네. 이제 그만 AI 좀 그만좀 해라"라는 댓글이 '켄터키의 삶(Life in Kentucky)' 페이스북 페이지의 한 이미지 아래에 달려 있었습니다.
사람들은 데이터센터를 혐오합니다. 전국의 지역 및 주 단체에서는 데이터센터 건설에 대한 유예 조치를 내리고 있습니다. 데이터센터는 소음이 크고, 이웃 주민들은 물 사용량, 전기 요금 인상, 개발업체가 약속하는 일자리의 질 등에 대해 심각한 우려를 제기하고 있습니다. 미시간 대학교가 대형 데이터센터를 계획하고 있는 입실랜티 타운십(Ypsilanti Township)과 같은 일부 지역에서는 미래 전쟁의 표적이 될 수 있다고 우려하기도 합니다. 이러한 불안감은 이제 페이스북의 AI 스팸 팜(대량 생산업체)의 핵심 타겟이 되었습니다.
이는 우리가 이전에 보도했던 알고리즘에 의해 확산되는 '새우 예수(Shrimp Jesus)' 스타일의 AI 스팸 수법과 완전히 동일합니다. 일부 해외에 거주하는 사람들은 여러 페이지에 걸쳐 수백 장의 AI 생성 이미지를 쏟아내어 사용자의 참여를 유도하고 광고 및 링크를 통해 수익을 창출합니다. 이 모든 주제의 반(反) AI 페이지를 정확히 누가 운영하는지는 알 수 없습니다. 나는 페이스북 메신저를 통해 여러 페이지에 연락을 시도했지만 답변을 받지 못했습니다. 많은 페이지가 동일한 연락처 이메일을 제공했지만, 해당 이메일로 연락했을 때 역시 답장을 받지 못했습니다.
분명한 것은, 미국 문화를 연구하고 이를 페이스북을 통해 미국인들에게 다시 되팔아 이익을 얻는 사람들이 '우리가 얼마나 데이터센터를 싫어하는지'에 대한 콘텐츠를 공유하는 것이 수익이 된다는 사실을 알아챘다는 것입니다. 내가 발견한 많은 이미지는 수천 번의 '좋아요'를 받았고 수백 번 더 공유되었습니다. 이 쓰레기 이미지들 아래에 달린 댓글들은 반데이터센터 운동에 대한 굳건한 지지부터, 데이터센터에 있는 AI가 반데이터센터 선전물을 만드는 데 사용되었다는 사실에 대한 분노까지 다양했습니다.
다른 AI 스팸 콘텐츠들과 마찬가지로 이 페이스북 페이지들은 사실 확인에 매우 취약합니다. '알라바마 크림슨 타이드 팬(Fans of Alabama Crimson Tide)' 페이지는 석양 논 밭에 서 있는 여성의 AI 생성 이미지를 공유했습니다. 그녀 뒤로 알라바마주 깃발이 바람에 펄럭였습니다. 게시물의 캡션은 "알라바마의 한 모녀가 1,200에이커 규모의 농장을 AI 데이터센터로 전환하는 것을 막기 위해 2,600만 달러(약 350억 원)를 거절했다"고 말했습니다. 이 페이스북 게시물은 그 여성의 이름을 밝히거나 구체적인 세부 사항을 제공하지 않았지만, 실제 인물이며 그녀의 이름은 델시아 베어(Delsia Bare)이고 이 이야기는 대체로 사실입니다. 그녀와 그녀의 어머니는 농장에 데이터센터를 짓기 위한 2,600만 달러의 제안을 거절했습니다. 다만 데이터센터의 예상 부지는 1,200에이커가 아니라 2,000에이커였습니다. 또한, 이 모든 일은 알라바마주가 아니라 켄터키주에서 일어났습니다. AI 스팸머는 베어의 이야기와 그녀의 이미지(이 사건을 다룬 지역 뉴스 보도에서 나온 것으로 보이는)를 가져와서, 전혀 다른 주의 축구 팬들로부터 참여를 유도하기 위한 반(反) AI 콘텐츠로 재포장했습니다. "그녀의 결정에 동의하든 않든, 한 가지 부정할 수 없는 사실이 있습니다. 2,600만 달러의 제안을 맞서고도 굽히지 않는 것은 엄청난 신념이 필요한 일입니다. 알라바마의 자부심은 대단합니다."