내가 AI를 혐오하게 된 이유: 동의 없는 강요
이 글은 기술 산업과 자본이 AI를 '차세대 대박'으로 띄우며, 사용자 동의 없이 데이터를 무단으로 학습에 사용하고 모든 서비스에 AI를 억지로 끼워 넣는 과정을 비판합니다. 이러한 거대 기업들의 일방적인 강요와 프라이버시 침해가 사용자들의 AI 혐오 감정을 불러일으켰다고 분석합니다.
내가 AI를 혐오하게 된 과정 - 2026년 6월 16일
나는 내가 얼마나 완고한 AI 혐오자인지, 그리고 오늘날 우리에게 기술이 제시되는 방식에서 내가 무엇을 싫어하는지에 대해 다른 곳에서 장황하게 설명한 적이 있는 것 같다. 하지만 내가 어떻게 이런 생각을 갖게 되었는지에 대해 이야기하고 싶다. 왜냐하면 내가 처음부터 이랬던 건 아니기 때문이다! 아니다, 초기 생성형 AI(Generative AI) 시대에 유행했던 "봇에게 '벅스 라이프' 대본을 입력해서 속편을 만들게 했다"는 그런 것들은... 꽤 재미있었고, 아무리 못해도 쉽게 무시할 수 있는 수준이었다고 생각했다. 사실, ChatGPT가 그냥 저기 앉아서 존재하기만 했다면 나는 그것을 싫어하지 않았을 것이다. 그것을 이용해 사람들에게 "음, 사실은(acksually)"을 시전하고 짜증나게 굴었던 사람들을 싫어했을까? 당연하지만, 그건 기술 자체의 진짜 잘못은 아니다. 기술은 도구일 뿐이며, 그것을 사용하고 통제하는 사람들의 의지를 따를 뿐이다. 그리고 문제는 바로 그곳에 있다.
어느 순간, IT 업계 전체가 ChatGPT를 보고 집단적 광기에 빠져 이것이 바로 차세대 대박 사업이라 결정내렸고, 생성형 AI와 LLM(대형 언어 모델)이 다음 큰 사업이 될 거라는 예언을 이루기 위해 모든 수단과 방법을 가리지 않게 되었다. 확신하건대 이 시점에 이미 저작권이 있는 자료들이 LLM에 입력되고 있었지만(내가 위에서 든 예시처럼 기꺼이 자신들의 자료를 직접 입력하는 사람들도 있었다), 이른바 '테크 브로(techbros)'들이 이 사실을 깨닫고 이를 가속화하고자 했을 때, 갑자기 공개된 모든 것이 그들의 모델을 학습하는 데 적법한 먹잇감이 되었다. 그들은 당신이 그들의 AI 학습에 동의하는지 여부를 신경 쓰지 않았다. (나중에 창작자를 대체할 수 있다고 선전했던 바로 그 AI 말이다.) 당신이 공개적으로 접근 가능한 사진을 올렸다면, 그들은 그것을 가져가서 무조건 상업적 목적으로 사용했다. 다시 말하지만, 당신의 허락도 일절 구하지 않고서 말이다.
자본, 즉 돈의 지배자들이 개입하면서 상황은 훨씬 더 어두워졌다. 투자자들은 AI에 전폭적으로 올인한다고 선언했다. (그들이 AI를 시대의 유행 그 이상으로 이해하지 못하고, 그것이 큰돈을 벌어줄 거라는 헛된 약속을 믿었다는 점은 논외로 하더라도) 만약 AI에 올인하지 않는다면 투자금을 한 푼도 받지 못하거나 덜 받을 것이라 경고했다. 또한, 기회가 있을 때 진입하지 않으면 당신의 회사는 '시대에 뒤떨어진' 곳으로 낙인찍히고 실패할 운명에 처할 것이다. (음, 어디서 이런 말 들어본 적 있지? 아, 맞다. 오만함을 정확히 지적하는 사람들에게 '미래가 없다(ngmi)'고 소리쳐댔던 암호화폐 놈들 말이다.)
예상하겠지만, 이로 인해 기업들은 훅, 라인, 싱커까지 통째로 미끼를 삼키게 되었고, 필요도 없는 서비스와 기기에 AI를 억지로 구겨 넣었다. 전부 투자자들이 그것을 요구했고, 그것이 차세대 대박이라는 과장된 주장이 사실로 밝혀질 경우 당황하는 꼴을 보이고 싶지 않았기 때문이다. 기업 차원에서의 FOMO(소외되는 것에 대한 두려움)는 정말 끔찍한 마약이다. 세상에. 당신이 앱이나 서비스로 하는 모든 작업이 AI로 인해 향상되지 않더라도 상관없었다. 당신이 싫어하든 좋아하든, 멍청한 AI 봇이 당신에게 강제로 족쇄처럼 묶였다. 이것은 마땅히 있어야 할 방식이 아니었으며, 이 시점부터 나의 의견은 중립에서 "아니, 난 그게 싫어, 저리 치워버려"로 바뀌기 시작했다.
사용자들이 이에 대해 불평하기 시작했을 때, 또다시 '동의'라는 개념은 완전히 창밖으로 던져졌다. "그냥 써봐, 마음에 들 거야." 혹은 "이것이 미래야, 빨리 적응하는 게 좋을 거야." 아니면 더 심하게는 "이미 와버린 이상, 요정을 다시 병 속에 집어넣을 수는 없어. 얼른 챙기거나 뒤처지거나 둘 중 하나야."라고 했다. 보통 이런 일이 발생하면, 동행하는 '프라이버시 정책 업데이트'가 사용자들에게 강요되는데, 해당 서비스를 통한 모든 사용자 데이터가 기록되어 AI 학습에 사용된다는 내용의 조항이 들어있다. 다시 말하지만, 계정을 완전히 삭제하는 것 말고는 사용자가 선택하거나 거부할 수 있는 방법이나 옵트아웃(Opt-out)을 제공하지 않았다. (그리고 그때조차 데이터를 보유하는 회사들이 있기 때문에, 이것마저도 당신의 데이터가 학습에 사용되지 않도록 보장하는 확실한 방법은 아니다!)
여기서 어떤 패턴을 눈치챘을 것이다. '동의'는 그냥 사라졌다. 90%의 경우, AI가 등장하기만 하면 동의는 존재하지 않는다. 회사들은 그것을 당신에게 강요한 뒤, 시끄럽게 굴지 말고 좋아하든지 아니면 떠나든지 하라고 말할 뿐이다.