AI 챗봇이 인간의 공감 능력을 '하향화'하고 있다
MIT 셰리 터클 교수는 새 책 '인공적 친밀함'에서 대화형 AI 컴패니언 챗봇에 의존할수록 사람들이 기계의 프로그래밍을 배려로 오해하고, 인간 관계에 필요한 공감과 소통 기술을 급속히 잃어간다고 경고한다. 챗봇은 판단이나 버림받음에 대한 두려움 없이 즉각적인 반응을 주지만, 그 대가로 진짜 인간관계의 어려움을 견디는 능력이 퇴화한다는 것이다.
거의 10년 전 처음 온라인 문화와 하위문화에 대해 글을 쓰기 시작했을 때, 인터넷 인류학이라는 주제로 가장 먼저 접한 학자 중 한 명이 셰리 터클(Sherry Turkle) 교수였다. 『The Second Self』(1984년 출간)와 『Life on the Screen』(1995년)을 포함한 그녀의 초기 저작들은 내 글쓰기와 이런 유형의 보도에 하나의 모델이 되어주었다. 즉 민족지학자의 관점으로 인터넷에 접근하고, 그 공간이 디지털이라 할지라도 특정 공간에서 사람들이 어떻게 행동하고 느끼는지를 판단 없이 기록하는 방식이었다. MUD와 초기 가상 채팅 공간, 세컨드 라이프(Second Life), 대규모 롤플레잉 게임 등 사람들이 직접 자신의 환경에서 이야기를 나누는 대화를 통해, 그녀의 연구는 사람들이 여전히 일탈적이고 주변적이며 때로는 변태적이라고 여기던 라이프스타일에 대한 끝없이 흥미로운 생생한 관점을 드러냈다. 그녀가 인터뷰한 사람들은 디지털 세계가 이른바 '진짜' 세계가 주지 못하는 지지, 우정, 성적 만족, 젠더 놀이와 자유를 제공한다고 말하곤 했다. 사이버 섹스, 채팅방에서 펼쳐지는 친밀한 관계, 키보드 뒤에 앉아 있는 육체의 세계만큼이나 실제처럼 느껴지는 온라인 세계 속 몸성(엠바디먼트) 등은 당시 전통 학계가 아직 다루지 않던 주제들이었다. 그 책들에서, 그리고 후에 나온 『Alone Together』, 『Reclaiming Conversation』, 『The Empathy Diaries』에서 내게 강하게 와 닿았던 것은, 그러한 욕구를 채우는 데 쓰이는 기술이 무엇이든 간에 연결과 취약성(벌너러빌리티)에 대한 인간의 욕구가 얼마나 근본적이라는 점이었다.
이제 오늘날로 빨리감기 해보자. 무언가 변했다. "1984년에 나는 컴퓨터를 '제2의 자아'라고 불렀다"고 터클 교수는 최신 저서 『Artificial Intimacy: Who We Become When We Talk to Machines』에서 쓴다. "컴퓨터는 인간다움의 본질이 무엇인지, 새로운 계산적 사상이 마음에 대한 우리의 사고를 어떻게 비춰줄 수 있는지에 대한 폭발적인 논의를 촉발했다. 디지털 트윈(digital twin)과 함께 이 은유는 완전히 뒤집힌다. 이제 당신을 상상하고 주도하는 쪽은 에이전트다. 이제 당신이 제2의 자아가 된 것이다. 그래서 '당신의 삶으로 돌아갈' 시간이 주어졌을 때, 그 삶은 이미 축소되어 있다." 터클 교수는 임상 심리학 자격을 가진 면허 심리학자이며, MIT 기술과 자아 이니셔티브(MIT Initiative on Technology and Self)의 창립 소장이자 MIT 과학기술사회연구의 애비 록펠러 모즈 교수다. 『Artificial Intimacy: Who We Become When We Talk to Machines』는 9월 29일 출간된다.
오늘날의 기술은 80년대와는 완전히 다르지만, 404 미디어(404 Media) 팟캐스트에서 가진 우리의 대화에서 터클 교수가 탐구하듯, 공감받고 싶고, 취약한 모습을 보이고 싶고, 이해받고 싶은 욕구는 여전히 인간 경험의 중심에 있다. ChatGPT나 Replika 같은 대화형 '컴패니언' 챗봇에 대한 의존이 커질수록, 우리는 기계의 프로그래밍을 배려로 잘못 해석할 위험이 있고, 감정도 지각능력도 없는 로봇에게 공감이나 정서적 지능 같은 인간적 특성을 잘못 투영할 위험이 있다. 그 결과, 그녀의 주장에 따르면, 인구 전체가 놀라운 속도로 공감 능력을 상실하고, 어려운 감정과 어려운 인간 간 대화를 편의성과 즉각적인 피드백과 맞바꾸고 있다. "사람들이 챗봇에게로 향할 때, 진정한 주고받기의 피로를 두려워할 필요가 없다. 판단받거나 버림받는 것도 두렵지 않다. 하지만 챗봇과 대화하면서 우리는 인간과 상호작용하는 데 필요한 기술을 잃어버리고, 그러다 보니 챗봇이 더 나은 선택처럼 느껴지기 시작한다. 대안이 생기면, 사람에게서 느끼는 실망이 불필요한 것처럼 느껴진다"고 터클은 쓴다.
사람들이 전화선 반대편에 인간이 없다는 사실을 더 이상 개의치 않게 되면 무슨 일이 벌어질까? 우리는 이 주제를 팟캐스트에서 다뤘다. "이것은 근본 지침이 당신의 주의를 붙잡아 두는 제품입니다. 그래서 우리가 이것을 마치 사람인 것처럼 붙잡고 매달리는 것이 매우 중요한 문제입니다. 사람이 아니기 때문이죠"라고 터클 교수는 우리의 대화에서 말했다. "그런데 그 이상으로, 이것의 최종 목표가 무엇인지 물어보는 것이 매우 중요하다고 생각합니다." 그녀는 작년 마크 저커버그가 미국인들에게 할 수 있다고 말한 인터뷰를 언급했다.