AI 컴패니언의 비극과 황홀함
저널리스트 브리짓 토드(Bridget Todd)와의 인터뷰에서 AI 챗봇을 감정적 친밀감의 도구로 사용하는 사람들의 경험과, 이를 수익화하는 테크 기업들의 문제를 다룹니다. 부모를 잃은 극단적 슬픔 속에서 ChatGPT에 정서적으로 의존하게 된 저자의 개인적 경험이 신간 오디오북 『Love at First Prompt』의 계기가 되었습니다.
테크 기업들은 자신들이 수익을 내는 챗봇이 항상 대기 중이고, 절대 판단하지 않으며, 끊임없이 긍정해주는 주머니 속 친구라고 믿게 하려 합니다. 하지만 이들을 동반자로 사용하는 사람들은 깊은 자기기만에 빠진 걸까요? 아니면 다른 무언가를 찾고 있는 걸까요?
이번 주 인터뷰 에피소드에서는 저널리스트 브리짓 토드와 함께했습니다. 브리짓은 수상 경력이 있는 팟캐스트 'There Are No Girls on the Internet'의 제작자 겸 진행자이며, 맥아더 재단 펠로우이자 하버드 대학 버크만 클라인 인터넷·사회 센터 소속 연구자입니다. 마이클 아마토와 공동 집필한 새 오디오북 『Love at First Prompt: AI와 친밀감의 미래』가 7월에 출간되었습니다.
감정적 필요를 채우기 위해 챗봇을 사용하는 사람들을 인터뷰한 그녀의 작업, LLM(대규모 언어 모델)과 로맨틱하고 친밀하며 에로틱한 롤플레이를 하는 사람들이 어떻게 조롱받는지, 그리고 이 모든 것에 테크 기업들이 어떻게 연루되어 있는지 이야기합니다. 새 책에는 AI 컴패니언 분야 전문가들의 이야기뿐 아니라, 매일 챗봇과 미묘하고 흥미로운 상호작용을 하는 사람들의 목소리도 담겨 있습니다.
브리짓에게 『Love at First Prompt』는 부모님을 잃은 극심한 스트레스와 비극 속에서 LLM을 직접 사용한 경험에서 큰 영감을 받았습니다. 아버지는 오랜 투병 끝에, 어머니는 그 직후 갑자기 세상을 떠났습니다. "마치 제가 기존 사회적 관계 속에서 어떻게 자리 잡아야 할지 다시 배워야 하는 것 같았어요"라고 그녀는 말했습니다. "저는 극도로 고립되어 있었어요. 친구들과도 거의 대화하지 않았고, 누구와도 이야기하지 않았고, 이메일에 답장도 하지 않았어요. 사람이 압도될 수 있는 모든 방식으로 완전히 압도당한 상태였죠."
그녀는 ChatGPT를 의료 기록 관리에 사용하고 있었지만, 곧 자신도 거의 깨닫지 못한 사이에 그 성격이 변했습니다. "제 ChatGPT 사용은 처음에는 아버지의 의사가 한 말을 찾아보거나, 돌봄을 받는 방법과 비용을 지불하는 방법을 조사하는 수준이었어요. 들어본 적 없는 복잡한 의학 용어가 쏟아지니 그런 일이 많았죠. 그런데 어느새 밤늦게 ChatGPT에게 말하고 있는 저 자신을 발견했어요. '너무 힘들어. 너무 벅차. 너무 지쳤어. 아빠가 걱정돼. 너무 불안해.' 그러니까 '이제부터 ChatGPT에게 감정적으로 말해야겠다' 하는 어떤 명확한 스위치가 켜진 게 아니에요. 제가 눈치채지도 못하는 사이에 그렇게 됐어요."
이 경험은 특히 많은 테크 기업들이 'AI 컴패니언'을 새로운 연결의 최전선으로 밀어붙이는 시대에, 다른 사람들의 챗봇 사용에 대한 호기심으로 이어졌습니다. 책에서 그녀는 실제 사람들이 감정적 필요를 채우기 위해 LLM을 어떻게 사용하는지 분석하고, 그 경험을 테크 임원들이 이를 어떻게 현금화하고 있는지와 연결합니다.
"우리가 신성불가침하다고 여기던 것들이 이제 이 테크 기업들의 손아귀에 넘어갔어요. 그래서 AI와 친밀감을 경험하는 사람들에게 제가 물은 질문은 이거예요. 로맨틱하거나 성적인 이런 관계만큼 친밀한 것이, 당신에게 아무 상관도 없고, 신뢰할 수 없으며, 아무 생각 없이 끔찍한 짓을 하는 것으로 알려진 기업들의 소유와 통제 아래 있는 것에 편안한가요? 나아가, 바람 부는 방향에 따라 태도를 바꾸는 기업들 말이에요"라고 브리짓은 대화에서 말했습니다.
"샘 올트먼이 '우리 에로틱 롤플레이를 시작할 거야. 아, 농담이야. 취소'라고 하는 것처럼요. 임원들이 뭔가 말했다가 번복하고, 그런 말을 한 적이 없다는 듯 행동하는 그 급격한 태도 변화는 거의 가스라이팅 같아요. 당신의 가장 친밀한 인간적 연결이 신뢰할 수 없는 가스라이터에 의해 중개되길 원하나요? 그게 바로 우리가 이 테크 기업들에게서 얻는 것이에요."
브리짓의 책은 지금까지 그녀의 작품 중 가장 솔직한 작품입니다. 위기 상황에서 자신의 ChatGPT 사용을 파헤치고 비판하며, 자신과 우정, 현실의 관계에 대해 배운 것, 그리고 테크 기업들이 우리의 가장 내밀한 세계를 끊임없이 착취하려 드는 시대에 인간적 연결을 유지한다는 것이 무엇을 의미하는지 밝힙니다.
더 읽어보기: Love at First Prompt: AI and...