나도 모르게 AI 문서가 안 읽힌다
저자는 AI로 생성된 것으로 보이는 업무 문서를 읽을 때 집중이 되지 않고 내용이 머리에 들어오지 않는 현상을 겪고 있다고 고백합니다. LinkedIn의 AI 글들에 '사전 학습'된 뇌가 저품질 AI 콘텐츠를 배너 광고처럼 무의식적으로 걸러버리는 'AI 맹목성(AI-blindness)' 현상이라는 분석입니다. 생산성을 높여줄 AI가 오히려 커뮤니케이션을 방해하는 역설을 보여주는 사례로 주목할 만합니다.
AI AI AI
최근 업무 중에서 누군가 보낸 문서를 읽으려 할 때 뇌가 분석을 거부하는 순간들을 자주 겪고 있다. 읽고는 있는 것 같은데 내용에 집중할 수가 없다. 결국 이미 보내준 문서에 답이 있는 것들을 계속 되묻는 무한 왕복에 빠지곤 한다. 꽤 걱정되는 일이다. 지난 1년간 집중하는 법을 다시 배우려고 노력해왔는데, 이런 상황은 정반대의 결과를 보여주기 때문이다.
이런 상황들을 분석해보니 공통점이 하나 있었다. 그 문서들 모두 AI의 흔적이 뚜렷하다는 것이다. 예를 들어:
Claude에서 복사-붙여넣기 한 것 같은 설계 문서. 해당 기능의 설계를 다루긴 하지만, Claude 특유의 분석 방식과 용어가 많이 섞여 있다. "This cuts just through it", "The first gate is real" 같은 표현들.
또는 (꽤 합리적인) 마케팅 전략과 엉터리 제품 기술 아키텍처 헛소리를 뒤섞은 20페이지짜리 마케팅 컨셉 덱. 아이디어를 어떻게 피칭하는가? "X를 파는 게 아니라 Y를 파는 것"이라고. "Redis 백본이 제품을 재정의한다"라는 식이다.
또는 꽤 단순한 개념을 지나치게 장황하게 설명하는 기술 요구사항 문서. 이 문서의 상당 부분이 특정 결정에 대해 확신이 없는 사람의 '내면의' 추론처럼 읽힌다. LLM 같다는 생각이 든다.
인간이 AI 생성 텍스트를 잘 구별하는가에 대한 논의가 진행 중이다. 대부분의 연구는 인간이 거기에 그리 능하지 못하다고 주장하지만, 나는 동의하지 않는다. 적어도 저노력(low-effort) 결과물에 대해서라면 그리 어렵지 않다. Florian Roth가 소셜 미디어 맥락에서 흔한 패턴들을 꽤 잘 정리해놓았다. 업무 관련 텍스트에서도 비슷한 일이 일어나는 것을 본다. 단어 선택만이 아니라 문장의 전반적인 흐름과 모든 사소한 디테일을 돌파구처럼 포장하려는 시도가 금방 정체를 드러낸다. 기업용 애플리케이션의 RBAC 설정 화면 체크박스를 설명하는 문서라면, 불을 발명한 것처럼 팔지 말라.
나는 텍스트는 가득하지만 의미는 없는 AI 생성 LinkedIn 게시물, 이메일, 웹사이트들로 '사전 학습(pre-trained)'된 느낌이다. 내 뇌는 적어도 저노력으로 생성된 콘텐츠의 징후를 빠르게 포착하는 법을 익혔고, 이제는 그것을 무시하고 별생각 없이 지나쳐버린다. 어떤 이들은 이를 '배너 블라인드니스(banner blindness)'에 비교하기도 한다. 놀랄 일이 아니다. 밀려드는 콘텐츠의 얜 쟝면에서, 걸러내는 것이야말로 우리가 정신을 유지하는 방법이니까.
나를 더 생산적으로 만들어줄 그 same AI가 지금은 예상치 못한 방식으로 나를 느리게 만들고 있다는 점이 흥미롭다.
보통 휴가를 가지 않는 편이지만, 올해는 정말 쉬어야 할 필요가 있었다. 어느 저녁 발트해 연안의 식당들을 지나가며 몹시 배가 고팠다. 한 식당이 바로 눈에 띄어 무시하고 지나쳤는데, 1분 뒤 머릿속에서 무언가가 물었다. "야, 걔네 진짜로 곰팡이 핀 키슈 사진을 걸어놓은 거야?" 그걸 확인하려고 다시 걸어 돌아갔다.
AI AI AI