메뉴
BL
404 Media 57일 전

AI 스팸, 반데이터센터 감정 자극하다

IMP
7/10
핵심 요약

미국 내 데이터센터 반대 여론을 악용해, 외국 기반의 AI 스팸 운영자들이 페이스북에서 수백 개의 가짜 계정을 만들어 이익을 취하고 있습니다. 이들은 생성형 AI로 '데이터센터 건설을 반대하는 농부' 등의 가짜 이미지를 무단으로 뿌리며, 지역 주민들의 불안(소음, 전기요금, 환경 문제)을 자극하는 선전물을 유포합니다. AI가 만들어낸 혐오 콘텐츠(Slop)가 사용자 참여를 유도하는 수단으로 진화하고 있어 그 배경과 실태를 보여줍니다.

번역된 본문

미국의 정치적 관심사를 알아보는 지표를 찾고 있다면, 페이스북에서 스팸 계정들이 어떤 AI 생성 쓰레기 이미지(AI-generated slop)를 만들어내는지 확인하는 것도 나쁘지 않은 방법입니다. 현재 '텍사스의 삶(Life in Texas)', '위스콘신의 역사(History of Wisconsin)', '아이다호는 삶(Life Is Idaho)'과 같은 이름을 가진 수백 개의 페이지가 전국적인 반데이터센터 감정에 편승하는 AI 생성 이미지들을 쏟아내고 있습니다.

내가 본 가장 흔한 유형의 반데이터센터 스팸 이미지 중 하나는 끝없이 펼쳐진 농경지에 "데이터센터에 이 땅의 단 1인치도 내줄 수 없다"와 같은 메시지를 풀로 깎아 만든 모습입니다. 이 이미지는 각 주의 타겟 독자층에 맞게 맞춤화됩니다. 미시간주 버전에는 거대한 호수와 '미시간'이라고 적힌 물탱크로 둘러싸인 들판에 "우리의 위대한 호수. 우리의 숲. 우리의 지역사회. 우리의 미래"라고 적혀 있었습니다. 켄터키주 버전은 같은 메시지를 반복하면서 풀밭에 "블루그래스, 버번, 그리고 말. 켄터키"라는 문구를 추가했습니다. 게시물의 캡션에서는 해당 주의 시골 농부가 제안된 데이터센터에 항의하는 표시로 밭에 글자를 깎았다고 설명했습니다. 개별 주의 삶을 주제로 한 수백 개의 페이지가 돌아다니며, 사실상 동일한 이미지의 유사한 버전들을 공유하고 있습니다. "와우. 페이스북을 보니 모든 주의 모든 농부가 이 짓을 했다네. 이제 그만 AI 좀 그만좀 해라"라는 댓글이 '켄터키의 삶(Life in Kentucky)' 페이스북 페이지의 한 이미지 아래에 달려 있었습니다.

사람들은 데이터센터를 혐오합니다. 전국의 지역 및 주 단체에서는 데이터센터 건설에 대한 유예 조치를 내리고 있습니다. 데이터센터는 소음이 크고, 이웃 주민들은 물 사용량, 전기 요금 인상, 개발업체가 약속하는 일자리의 질 등에 대해 심각한 우려를 제기하고 있습니다. 미시간 대학교가 대형 데이터센터를 계획하고 있는 입실랜티 타운십(Ypsilanti Township)과 같은 일부 지역에서는 미래 전쟁의 표적이 될 수 있다고 우려하기도 합니다. 이러한 불안감은 이제 페이스북의 AI 스팸 팜(대량 생산업체)의 핵심 타겟이 되었습니다.

이는 우리가 이전에 보도했던 알고리즘에 의해 확산되는 '새우 예수(Shrimp Jesus)' 스타일의 AI 스팸 수법과 완전히 동일합니다. 일부 해외에 거주하는 사람들은 여러 페이지에 걸쳐 수백 장의 AI 생성 이미지를 쏟아내어 사용자의 참여를 유도하고 광고 및 링크를 통해 수익을 창출합니다. 이 모든 주제의 반(反) AI 페이지를 정확히 누가 운영하는지는 알 수 없습니다. 나는 페이스북 메신저를 통해 여러 페이지에 연락을 시도했지만 답변을 받지 못했습니다. 많은 페이지가 동일한 연락처 이메일을 제공했지만, 해당 이메일로 연락했을 때 역시 답장을 받지 못했습니다.

분명한 것은, 미국 문화를 연구하고 이를 페이스북을 통해 미국인들에게 다시 되팔아 이익을 얻는 사람들이 '우리가 얼마나 데이터센터를 싫어하는지'에 대한 콘텐츠를 공유하는 것이 수익이 된다는 사실을 알아챘다는 것입니다. 내가 발견한 많은 이미지는 수천 번의 '좋아요'를 받았고 수백 번 더 공유되었습니다. 이 쓰레기 이미지들 아래에 달린 댓글들은 반데이터센터 운동에 대한 굳건한 지지부터, 데이터센터에 있는 AI가 반데이터센터 선전물을 만드는 데 사용되었다는 사실에 대한 분노까지 다양했습니다.

다른 AI 스팸 콘텐츠들과 마찬가지로 이 페이스북 페이지들은 사실 확인에 매우 취약합니다. '알라바마 크림슨 타이드 팬(Fans of Alabama Crimson Tide)' 페이지는 석양 논 밭에 서 있는 여성의 AI 생성 이미지를 공유했습니다. 그녀 뒤로 알라바마주 깃발이 바람에 펄럭였습니다. 게시물의 캡션은 "알라바마의 한 모녀가 1,200에이커 규모의 농장을 AI 데이터센터로 전환하는 것을 막기 위해 2,600만 달러(약 350억 원)를 거절했다"고 말했습니다. 이 페이스북 게시물은 그 여성의 이름을 밝히거나 구체적인 세부 사항을 제공하지 않았지만, 실제 인물이며 그녀의 이름은 델시아 베어(Delsia Bare)이고 이 이야기는 대체로 사실입니다. 그녀와 그녀의 어머니는 농장에 데이터센터를 짓기 위한 2,600만 달러의 제안을 거절했습니다. 다만 데이터센터의 예상 부지는 1,200에이커가 아니라 2,000에이커였습니다. 또한, 이 모든 일은 알라바마주가 아니라 켄터키주에서 일어났습니다. AI 스팸머는 베어의 이야기와 그녀의 이미지(이 사건을 다룬 지역 뉴스 보도에서 나온 것으로 보이는)를 가져와서, 전혀 다른 주의 축구 팬들로부터 참여를 유도하기 위한 반(反) AI 콘텐츠로 재포장했습니다. "그녀의 결정에 동의하든 않든, 한 가지 부정할 수 없는 사실이 있습니다. 2,600만 달러의 제안을 맞서고도 굽히지 않는 것은 엄청난 신념이 필요한 일입니다. 알라바마의 자부심은 대단합니다."

원문 보기
원문 보기 (영어)
If you want a barometer of American political concerns you could do worse than checking what spam accounts are turning into AI-generated slop on Facebook. There are now hundreds of pages with names like “Life in Texas," “History of Wisconsin,” and “Life Is Idaho" churning out dozens of AI-generated images playing into anti-data center sentiment across the country. One of the most ubiquitous styles of anti-data center slop I’ve seen is a vast tract of farm land with a message like “not worth giving up an inch of this to a data center” mowed into it. The image is tailored to fit the target audience in each state. “Our great lakes. Our forests. Our communities. Our future,” said the Michigan version in the field surrounded by a massive lake and a water tower that helpfully read “Michigan.” The Kentucky version repeated the message but added “bluegrass, bourbon, and horses. Kentucky” to the mowed grass. The caption of the post explained that a rural farmer in the state mowed the letters into their field as a form of protest against proposed data centers. There are hundreds of these pages, all themed around life in individual states, sharing similar versions of the same images. “Wow. According to FB, every farmer in every state has done this. Enough with the AI,” said a comment below one of the images on the “Life in Kentucky” Facebook page. People hate data centers . Local and state communities around the country are passing moratoriums on their construction. Data centers are noisy and their neighbors have pressing concerns about water use, increased electricity bills, and the quality of the jobs developers are promising to create. Some areas, like Ypsilanti Township where the University of Michigan is planning a large data center, are even worried about becoming targets in future wars . These anxieties are now the focus of AI spam farms on Facebook. This is the same algorithmically boosted “shrimp Jesus” style AI spam scheme we’ve reported on before . There are people, some of them in foreign countries, who churn out hundreds of AI-generated images across multiple pages to engage users and turn a profit on ads and links. It’s impossible to know who, exactly, is putting up all these state-themed anti-AI pages. I reached out to several of the pages through Facebook Messenger but got no response. Many of the pages provide the same contact email but I didn’t receive a response when I contacted it. What’s clear is that the people who study American culture and profit from selling it back to Americans via Facebook have figured out there’s profit in sharing content about how much we hate data centers. Many of the images I found had been liked thousands of times and shared hundreds more. Comments under the slop ranged from staunch support of the anti-data center movement to anger that AI housed in a data center had been used to create anti-data center propaganda. Like all AI slop, these Facebook pages aren’t great with the facts. The “Fans of Alabama Crimson Tide” shared an AI-generated image of a woman standing in farmland at sunset. The Alabama flag rippled in the wind behind her. “An Alabama mother and daughter turned down $26 million to prevent their 1,200 acre farm from being converted into an AI data center,” the caption said. The Facebook post didn’t name the woman or provide details but she’s real and her name is Delsia Bare and the story is mostly true. She and her mother turned down a $26 million dollar offer to build a data center on their farmland. The data center would have been 2,000 acres not 1,200. Also, this all happened in Kentucky, not Alabama. An AI spammer took Bare’s story and her image, which appeared to come from local news coverage of her case, then repurposed it as a piece of anti-AI content to generate engagement from football fans in a different state. “Whether you agree with the decision or not, one thing is undeniable — standing firm against a $26 million offer takes incredible conviction. Alabama pride runs deep, and this story is another reminder that for many families, their land is more than property… it’s home,” said the caption on the Facebook page. As of this writing, the post had generated 56 likes and been shared 5 times. “This was in Kentucky wasn’t it?” said a comment in the replies. The people organizing against data centers have noticed the tide of slop. “Across the country, we’re hearing from local officials in conservative and liberal areas that their community can finally unite behind one thing—opposing the expansion of data centers,” Michael Whitesides, deputy communications director of Local Progress, a nonprofit that works with election officials at the local level, told 404 Media. “AI slop usually followed a very predictable pattern. They’re either designed to provoke intense reactions to play to a very middle of the road audience. The fact that Facebook content farms have switched to producing AI-generated images opposing data centers shows just how universal and uncontroversial this opposition is,” Whitesides added. “The irony shouldn’t be lost that said images are being created with the help of data centers, but all the more underscores what local elected officials here all across the country—no one wants these.” That’s not entirely true. There’s a lot of billionaires, contacts, and other monied interests in America that are bullish on data centers. Construction of these massive computer warehouses is driving the American economy. Think tanks like Brookings have published massive studies calling the build out a “gold rush.” But the people who live in the communities where data centers are going up do not want them . They’re noisy, drive up the costs of electricity and water for neighbors, and disrupt the beauty of the natural landscape. Local, state, and national resistance to the construction of the data centers is building and it seems to have caught some of the boosters and investors by surprise. A counter-narrative to the backlash is building. American law enforcement is warning about anti-tech extremism centered around the data center resistance movement. A Congressional intelligence agency is tracking “recent threats and attacks likely linked to grievances concerning data centers,” according to reporting from Ken Klippenstein. Billionaire Canadian TV Star Kevin O’Leary, shocked by opposition to his $70 billion data center in Utah , is laying the blame on China. “There’s a war going on, I guess a PR war or whatever you want to call it,” O’Leary said in a recent video posted to X. “Is what you’re suggesting that these entities are taking funds from the Chinese Communist Party and using those funds to run a digital blackmail campaign against your project?” someone off camera asked O’Leary. “I’m not suggesting it, it’s an irrefutable fact,’ O’Leary said. Data centers are going to be one of the major political issues in America for the next few election cycles. Battle lines are being drawn and narratives are taking shape. And in the middle of it all are people using AI to do what it does best: boiling the human experience down into cheap slop so it can be served back to us. Another version of the Bare story got the facts correct, but removed her and her family from the picture. “Family rejects $26 million offer for their Kentucky land amid AI data center plan. A clash between tradition and technology,” text said above an AI-generated image of a middle aged couple in denim with dirty blond hair and Taylor Sheridan-TV show good looks. This couple that does not exist stares into the camera, clutching two children tight. Bare, the real person who rejected the $26 million buyout, is not mentioned or pictured. About the author Matthew Gault is a writer covering weird tech, nuclear war, and video games. He’s worked for Reuters, Motherboard, and the New York Times. More from Matthew Gault