메뉴
BL
404 Media 20일 전

당신의 AI 사용이 내 뇌를 망치고 있습니다

IMP
6/10
핵심 요약

인터넷 곳곳에 범람하는 타인의 무분별한 AI 사용으로 인해, 실제 사람이 만든 콘텐츠마저 의심하게 되는 일상적 인지 과부하 현상을 다룬 에세이입니다. 글쓴이는 콘텐츠를 소비할 때마다 '이것이 AI가 만든 것인가?'를 끊임없이 판별해야 하는 피로감이 일상을 지배하고 있다고 호소합니다. 기만적인 AI 콘텐츠로부터 스스로를 방어하려다 역설적으로 현실 감각을 잃어가는 현대인의 딜레마를 보여줍니다.

번역된 본문

몇 년 전 제가 페이스북에서 증가하는 저질 AI 콘텐츠(AI slop)에 대한 기사를 쓸 때, 친구와 가족들에게 타임라인에 AI 스팸이 뜨는지, 그리고 그 예시를 보내줄 수 있는지 물어본 적이 있습니다. 소수의 사람들이 답장을 보내왔는데, 명백하게 AI가 생성한 듯한 공상과학 풍경, '새우 예수님(Shrimp Jesus)' 이미지, 그리고 동정심을 구하는 처량하고 굶주린 아이들의 사진 등이 포함되어 있었습니다. 하지만 일부 친구들은 AI가 만든 것이라고 생각하여 보낸 이미지들이 사실은 AI 작품이 아니었습니다. 그들의 마음속에는 경계심이 드높아져 있었고, 사람이 직접 만든 예술작품이나 사진을 보면서도 속느니보다는 차라리 AI가 만든 것으로 치부해 버리는 편이 안전하다고 판단한 것입니다.

오늘 날 인터넷을 서핑하고 어떤 종류의 콘텐츠를 소비하든, 온갖 종류의 AI의 폭격을 맞게 됩니다. 사람들은 가짜를 진짜로 믿고, 진짜를 가짜로 여깁니다. AI에 완전히 빠져들어 자아를 잃은 사람들에게 붙여진 비특정적이고 비과학적인 진단명인 'AI 정신병(AI psychosis)'에 대해서는 많이 작성되었습니다. 하지만 다른 사람들의 AI 사용이 나머지 우리에게 미치는 인지적 부하, 그리고 게으른 AI(A lazy AI)가 모든 것에 스며든 인터넷과 세상을 헤쳐 나가야 하는 은밀한 본질에 대해서는 비교적 말이 적었습니다.

우리의 뇌는 이제 하루에 수많은 계산을 수행하고 있습니다. '이게 AI야?', 'AI인지 상관해?', '왜 이렇게 듣거나 보거나 읽는 게 이상하지?', '이 사람은 그냥 글을 이렇게 쓰는 건가?', '이게 진짜 사람이긴 한 거야?' 등등 말입니다. 저는 AI 콘텐츠가 있을 만한 곳에 익숙해져 이를 예상하고 무시하곤 합니다. 유명하게도 '풀을 발라먹는 피자'를 먹으라고 했던 구글의 'AI 개요(AI Overviews)', 참여를 유도하는 링크드인 게시물, 그리고 페이스북과 인스타그램 피드 전반에 걸쳐서 말입니다. 하지만 점점 더 그것이 어디에나 있고, 사방에서 다가오며, 완전히 피할 수 없다는 느낌을 받고 있습니다.

제가 AI 보조 콘텐츠에 반감을 가지고 있거나 속고 싶지 않은 것은 아닙니다. 다만 모든 것이 극도로 기괴하게 느껴져서 제 뇌가 'AI 경찰'이 되어버린 상황이 벌어지고 있는 것입니다. 하루 종일 무언가를 읽거나, 보거나, 듣다가 갑자기 무언가 크게 어긋나 있다는 것을 발견합니다. 한마디로, 제가 미쳐가는 것 같은 기분이 듭니다.

한 가지 예를 들어보겠습니다. 지난주, 백악관 기자단 만찬 총격 사건에 대한 또 다른 의견을 피하기 위한 필사적인 노력으로, 저는 'Everyone’s Talkin’ Money'라는 세금에 관한 팟캐스트 에피소드를 듣고 있었습니다(아, 끔찍했습니다). 저는 몇 년 동안 이 팟캐스트를 듣불규칙하게 들어왔습니다. 이 팟캐스트는 수년간 진행되어 왔고, 샤리 래시(Shari Rash)라는 인간 진행자가 있으며, 수백 개의 에피소드가 있습니다.

래시는 도입부 대본을 읽기 시작했습니다. "제가 오늘 여러분에게 만들고 싶은 변화, 그리고 이것이 모든 것을 바꾸는 변화입니다, 는 세금 환급액을 정보로 보기 시작하는 것입니다. 청구서도 아니고, 수치의 휘장도 아닌, 그저 정보로 말이죠." 대본은 계속해서 이어졌고, AI 글쓰기의 진부한 표현(AI writing trope)들이 연이어 등장했습니다. 제 뇌는 기능을 멈추고 대본에 주의를 기울이는 것을 중단한 채, '래시가 도입부 대본에만 AI를 사용하는 건가?' 하고 의심하기 시작했습니다. '자료 조사에도 사용했을까?', '대본을 수정이라도 했을까?' 저는 그 팟캐스트를 꺼버렸습니다.

그날 늦게, 저는 '오리올스 행아웃(Orioles Hangout)' 포럼을 스크롤했습니다. 이곳은 제가 수십 년간 잠잠히 머물렀던 볼티모어 오리올스 팀에 열광하는 소규모 열성팬 커뮤니티입니다. 최근까지 이곳은 인터넷에서 AI로 가득 차 있지 않다고 안전하게 가정할 수 있는 몇 안 되는 장소 중 하나였습니다. 그런데 이제는 그렇지 않습니다. 사이트 관리자가 선수 성과를 분석하고 게시물 작성을 돕기 위해 AI를 사용하기 시작했습니다. 그가 AI를 어떻게 사용하고 있는지 설명하고, AI 보조 분석임을 알리는 서문을 게시물에 달아놓은 것은 칭찬할 만합니다. 그중 일부는 흥미롭습니다. 하지만 지금 포럼을 탐색하는 대부분의 날들, 저는 수년간 그곳에 있었던 게시자들 사이의 토론에서 지나치게 일반적이거나 진정으로 이해가 되지 않는 논쟁을 보게 됩니다. 최근에 부상당한 선수의 복귀 시기표를 놓고 벌어진 논쟁 중 하나는 터무니없이 긴 회복 기간을 제시했습니다. 한 포스터가 이를 지적했습니다. "당신은 1018개월이 걸린다고 했고, 저는 포지션 플레이어에게는 그렇게 오래 걸리지 않을 것이라고 말했습니다." 그 포스터는 이렇게 답했습니다. "당신 말이 맞아요, 제가 그랬죠. 1018개월은 AI가 생성한 답변이었습니다... 그냥 작은 실수로"

원문 보기
원문 보기 (영어)
A few years ago, while I was covering the rise of AI slop on Facebook, I asked my friends and family if they were getting AI spam fed into their timelines and if they could send me examples. A handful of them responded, sending me obviously AI-generated science fiction scenescapes, shrimp Jesus, and forlorn, starving children begging for sympathy. But a few of my friends sent me images that they thought were AI but were not. Their mental guard was up to the point where they were looking at human-made art and photos and thought it safer to dismiss them as AI rather than be fooled by it. To browse the internet today, to consume any sort of content at all, is to be bombarded with AI of all sorts. People think things that are fake are real, things that are real are fake. Much has been written about “AI psychosis ,” the nonspecific, nonscientific diagnosis given to people who have lost themselves to AI. Less has been said about the cognitive load of what other people’s AI use is doing to the rest of us, and the insidious nature of having to navigate an internet and a world where lazy AI has infiltrated everything. Our brains are now performing untold numbers of calculations per day: Is this AI? Do I care if it’s AI? Why does this sound or look or read so weird? Does this person just write like this? Is this a person at all? I see AI content where I’m conditioned to expect and ignore it: In Google’s “AI Overviews” that famously told us to eat glue pizza , in engagement-bait LinkedIn posts, and throughout our Facebook and Instagram feeds. But increasingly I have the feeling that it’s everywhere, coming from all directions, completely unavoidable. It’s not exactly that I have a revulsion to AI-assisted content or don’t want to get fooled by it. It’s that something is happening where my brain has become the AI police because everything feels incredibly uncanny. I will be going about my day reading, watching, or listening to something and, suddenly, I notice that something is wildly off. Quite simply, I feel like I’m going nuts. An example: Last week, in a desperate attempt to avoid yet another take on the White House Correspondents Dinner shooting, I was listening to an episode of Everyone’s Talkin’ Money, a podcast I’ve been listening to off-and-on for years about taxes (yikes). This podcast has been going on for years, has a human host named Shari Rash, and hundreds of episodes. Rash started reading the intro script: “The shift I want you to make today—and this is the shift that changes everything—is starting to see your tax return as information—not a bill, not a badge of shame, but information.” The script went on and on and on like this, with AI writing trope after AI writing trope. My brain shut down and stopped paying attention to the script and started wondering if Rash was using AI just for the intro script? What about for the research? Did she edit the script at all? I turned the podcast off. Later that day, I was scrolling the Orioles Hangout forums, a small community of diehards obsessed with the Baltimore Orioles that I have been lurking on for decades. Until recently, it had been one of the few places on the internet that I could safely assume was not full of AI. Except now, it is. The site’s administrator has started using AI to analyze player performance and to help him write some of his posts. To his credit, he explains how he’s using AI and prefaces these posts by noting they are AI-assisted analysis. Some of them are interesting. But now, most days I’m browsing the forums, I will see arguments between posters who have been there for years that seem overly generic or don’t really make sense. One recent post arguing about the timetable for an injured player’s return suggested a ludicrously long recovery. One poster pointed this out: “You said 10-18 months and I said it won’t take that long for a position player.” The poster responded: “You’re right I did. The 10-18 months was an AI generated answer … consider it a small cautionary tale about trusting AI and another on the benefits of seeking out actual medical research on questions like this.” Every day I now scroll the forum and see people noting that they plugged something into ChatGPT or Gemini and have copy pasted the answers for other people to see. In this 30-year-old community of human beings discussing sports, AI is unavoidable. It is, of course, not just me. Friends send me screenshots of texts they’ve gotten from people they’ve started dating, wondering if they’re using ChatGPT to flirt. I’ve gotten obviously AI-generated apologies or excuses from people trying to bail on a social engagement. I’ve been to weddings where the speeches felt—and were—partially AI-generated. A recent PEW poll showed that people believe it is important to be able to tell whether an image, video, or piece of writing was AI-generated, AI-assisted, or written by a human. And it showed that a majority of people do not believe that they are able to tell the difference between AI-generated works and human made works. Studies have repeatedly shown that humans judge AI-generated art and writing more harshly than human works, and a study published in the Journal of Experimental Psychology found that when people know or perceive a piece of writing to be AI-generated, it is “stubbornly difficult to mitigate” and “remarkably persistent, holding across the time period of our study; across different evaluation metrics, contexts, and different types of written content.” Put simply, it is not just me who hates AI writing or finds it annoying. Even if AI writing can be “fine,” it very often feels bland, weird, formulaic. The writer Eve Fairbanks wrote a thread the other day that I thought more or less nailed it: “The tell for AI isn’t rhythm, wording, or fact errors. It’s that problems with *all these elements* exist equally & at once.” “With AI writing, everything is off: the tone grates, individual word choices baffle, the structure lacks sense, key pieces of argument are missing…the key is that they all exist simultaneously to the same degree,” she added. “Superficially, AI text can read smoothly—“cleaner” than a human’s draft … but it’s almost impossible to make sensible. And it’s driving me crazy.” Last week, New York City Mayor Zohran Mamdani tweeted about swastikas being painted on synagogues in Queens: “This is not just vandalism—it is a deliberate act of antisemitic hatred meant to instill fear,” he wrote. Max Spero, the CEO of Pangram Labs, an AI detection firm, highlighted this passage and tweeted “Mamdani nooo ,” the implication being that this passage was written by AI, or at least seemed like it was. Spero’s tweet had more than 4 million views at the time I talked to him. (Disclosure: Pangram Labs previously advertised on 404 Media). Spero’s company uses AI to detect AI writing, meaning it is not perfect. But as far as these tools go, Pangram is considered quite good, and has been widely used in research about AI content on the internet. Spero told me when I called him that immersing himself in the internet has his brain in AI-detection mode pretty much all the time. “I’m totally on guard, and I have been for a while,” he said. Spero said he first began to notice it on restaurant reviews on Yelp and Google Reviews a few years ago. “I started seeing them everywhere. There’s people who are Yelp Elite and all they do is post one or two AI-generated reviews a day. Fast forward to today, and I think we’ve seen the mainstream growth of AI everywhere, but I think some people can tell, and some people have no intuition for it.” I have always aspired to write like I talk. I don’t really concern myself so much with the craft of writing or turning a beautiful sentence, I usually try to just convey information in a straightforward, personable way. I want my articles to feel like slightly more polished, more researched versions of my text messages, like the things I would say on a podcast or at the bar to a friend. Oft