AI에 대한 도덕적 신념이 나를 왕따로 만든다
AI가 환경 파괴, 저작권 침해, 허위 정보 유포 등의 심각한 피해를 낳고 있음에도 불구하고 대중과 기술 커뮤니티가 이를 무비판적으로 수용하는 현실을 비판하는 글입니다. 저자는 AI의 근본적인 문제점을 지적하며, 이를 거부하는 도덕적 입장 때문에 주변과 단절되는 소외감을 호소하고 있습니다.
AI에 대해 도덕적 입장을 가진다는 것은 왕따가 된다는 뜻이며, 정말 끔찍합니다. 2026년 4월 28일. 나는 이 기술을 알고, 그것이 무슨 짓을 하며 어떤 영향을 미치는지 이해하기에 확고한 AI 반대론자입니다. 나는 지금까지 행해진 피해와 계속되고 있는 해악을 감수할 만큼 가치 있는 긍정적인 결과를 이 형태의 AI가 가져올 수 있다고 믿지 않습니다. 그렇다고 "형, 모델 하나만 더 학습시키면" 뭔가 "지능적인" 것이 나올 것이라고도 믿지 않습니다. 물론 "AI"는 마케팅 용어라 아무런 의미가 없으며, GenAI나 최근의 유행어인 "Agentic(에이전트형)" 역시 마찬가지입니다.
이런 생각 때문에 나는 왕따가 되었습니다. 기술 업계 안에서도, 그 밖에서도요. 최근 누군가 내게 보내준 글이 나의 생각과 정말 깊이 맞닿아 있었습니다. GenAI의 수용에 관해서 말이죠. 나는 내 입장을 옹호하는 것이 너무 지쳐서, AI 사용을 장려하는 사람들과의 커뮤니티 관계를 아예 끊어버릴 지경에 이르렀습니다.
사람들은 환경 파괴, 착취당하는 노동자들, 가장 피해를 감당할 수 없는 계층으로부터의 도용, 인지 능력에 미치는 영향, 권력 집중, 허위 정보 유포, 웹의 파괴 그리고/또는 전체 커리어 경로의 붕괴(물론 억만장자들은 안전하겠지만요)를 진심으로 걱정하면서도, 이를 묵과하거나 (직접적이든 암묵적으로 사용하든) AI를 지지하지 않는 것이 얼마나 큰 대가를 치르는 일인지 깨닫지 못합니다.
나와 같은 처지가 아니라면, 이메일부터 TV, 명백히 AI로 생성된 포스터에 이르기까지 어디서나 AI 광고를 보면서 그저 눈을 굴리거나 그 어리석음에 합리적인 낄낄거림을 보낼 것입니다. 하지만 나에게는 내가 존경하던 사람들이 그것을 공개적으로 지지하거나 사용하는 것을 볼 때 정말 속이 뒤집힙니다.
내가 있던 연극 동호회에서 단원 사진을 찍어서 우리의 "밴드 포스터"를 만들기로 했습니다. 멋지고, 재밌네요. 어? 그런데 ChatGPT를 사용했고, 이제 나는 메스꺼울 정도로 불쾌하고, 그들은 내 동의조차 구하지 않았습니다. 한 친구는 약효가 얼마나 지속되는지 "Siri"에게 물었고, Siri가 "ChatGPT를 사용해 답변을 찾아드릴까요?"라고 응답하자 그저 이미 천 번은 "네"라고 대답한 것처럼 쉽게 수락했고, 그 대답을 올바른 것으로 그대로 받아들였습니다. 나는 더 이상 그와 어울리고 싶지 않습니다. 그는 항상 휴대폰을 가지고 다닐 것이고, 그것은 이미 그에게 자동화된 행동이 되었으니까요. 게다가 그가 AI가 지어낸 허위 정보를 믿다가 죽지 않기를 바랄 따름입니다.
며칠 전 나는 한 발표 자리에서 퇴장했습니다. 무대 위에서 Copilot과 실시간으로 논쟁을 벌이는 방식으로 AI가 얼마나 나쁜지 보여주려고 했기 때문입니다. 참 대단하네요. 그러니까 AI가 얼마나 나쁜지 인정하는 방법이... 사용하는 겁니까?!
위키백과 사용을 좋아하시나요? 좋습니다. 나는 위키백과 뒤에서 활동하는 챕터 중 하나에서 일합니다. 그런데 무슨 일이 벌어지고 있는지 아십니까? 사람들은 위키백과에서 스크랩한 정보를 AI를 통해 얻고, "환각(Hallucination)" 현상까지 포함해 그대로 사실로 수용합니다. 그 사람들이 절대 하지 않는 일이 무엇인지 아십니까? 편집자가 되어 실수를 고치고 그 생태계를 살려두는 일입니다.
더 끔찍한 것은 AI가 여러분을 가스라이팅(gaslighting)하면서 작동하는 것처럼 만든다는 것입니다. 그것이 "타당해 보이는" 결과물을 제공하도록 설계된 모델의 전부입니다. 파워 유저들은 그것과 논쟁하는 법을 알고 있고, 그러면 AI는 자신이 틀렸다고 "인정"할 것이며, 지어낸 내용을 줄이기 위해 무한히 또 다른 AI에게 그것을 파이프로 전달할 것입니다. 일반 사람들은 그러지 않습니다.
그래요, 나는 왕따이고, 네, 정말 끔찍합니다. 나는 이 모든 시달림에서 "일주일 휴가"를 가질 수도 없습니다. 만약 그것이 정말로 선한 기술이라면, 어디에나 광고되지 않을 텐데 말이죠. 그렇습니다, 어떤 사람들은 직장에서 억지로 사용해야 합니다. 그들에게는 동정심이 갑니다. 어떤 사람들은 당장 생존을 위해 어쩔 수 없이 사용해야 합니다. 나는 그런 사람들을 비난하지 않습니다.
하지만 모든 해악을 알면서도 그럼에도 불구하고 "편하니까" 사용한다면, 그건 맞아요, 당신을 비난할 겁니다 (대부분 조용히). 내가 당신에게 그것이 끼치는 피해에 대한 정보를 제공하려 노력한 후에도 계속 사용한다면, 나는 당신과의 교류를 피할 것입니다. 만약 당신이 그 해악을 알면서도 "가장 많은 토큰을 사용한 사람에게 보너스를 받을 수 있으니 두 AI 에이전트 사이에 무한 루프를 만들어야겠다"는 식으로 행동한다면, 나는 십중팔구 당신을 진심으로 매우 싫어할 것입니다.