Claude, ChatGPT, Gemini 같은 AI 도구는 코딩과 리서치에 유용하지만 글쓰기에는 쓰지 말라고 권하는 글입니다. 글쓰기는 문제를 깊이 생각하게 만드는 도구인데, AI가 대신 써주면 그 사고 과정이 생략되기 때문입니다. 대신 초안을 직접 쓴 뒤 AI에게 질문 형태로 피드백을 받는 방식을 추천합니다.
작가가 LLM을 '대필 작가'가 아닌 '편집자(copyeditor)'처럼 활용하는 방법을 다룬 글입니다. 핵심 원칙은 두 가지로, LLM이 제안한 표현은 단 하나도 그대로 쓰지 말 것, 그리고 LLM의 칭찬·격려를 경계해 초고려 단계의 나쁜 습관을 강화하지 말 것입니다. LLM은 문제점을 찾아 표시하는 도구로는 탁월하지만, 표현 자체를 맡기면 독자가 글이 아닌 '산출물'로 느끼게 된다는 조언입니다.
해커뉴스에 올라온 에세이로, LLM이 코드 생성에는 빠르게 발전했지만 산문(small) 분야에서는 정체되어 있다고 주장합니다. 글쓰기는 명확한 정답이 없는 '위키드 문제'이며 독자의 마음을 시뮬레이션하는 '마음 이론(Theory of Mind)'이 필요하기 때문에 AI가 당분간 좋은 글쓰기를 위협하지 못한다는 논리입니다.
7개 데이터셋과 88만 건 이상의 텍스트를 분석한 연구에 따르면, LLM을 글쓰기 보조 도구로 널리 사용하면서 언어적 다양성이 유의미하게 감소하고 있습니다. LLM은 핵심 내용은 유지하지만 글쓰기 스타일을 획일화하여 복잡성 분산을 21~50% 줄이고, 개성보다 획일성을 강조하는 경향을 보였습니다.
Anthropic이 향후 Claude가 생성하는 텍스트에 워터마크를 삽입하겠다고 발표했습니다. 방식은 텍스트에 아무것도 추가하지 않고, 단어 선택의 무작위성 원천을 자사 알고리즘으로 바꿔 패턴을 남기는 것입니다. 그러나 'grey'와 'overcast' 같은 동의어를 완전히 상호 교환 가능하다고 보는 접근은 작가의 단어 선택을 무의미하게 만든다는 비판을 받고 있습니다.
독립 소프트웨어 개발자인 크리스 맥코믹은 독자의 글쓰기 스타일과 사고방식을 발전시키는 소설만의 고유한 특성을 설명합니다. LLM(LLM)은 통계적으로 가장 평범하고 중간값에 가까운 글을 생성하도록 설계되었기 때문에, 소설을 읽으며 얻고 싶은 창의적 자극과는 정반대라며 AI 창작 소설을 거부하는 논리를 제시합니다.
작가 찰리 스트로스는 자신의 집필 과정과 일상에서 생성형 거대 언어 모델(LLM, 일명 AI)을 전혀 사용하지 않는다고 공식적으로 밝혔습니다. 그는 AI를 유용한 도구라며 포장하는 사기꾼들을 경며하며, AI가 정보의 출처를 확인하는 진짜 검색을 대체하는 것에 대해 강하게 비판했습니다.
한 수학 블로거가 글 작성을 돕기 위해 LLM을 사용한 뒤, 약 3개월 뒤 AI가 생성한 문장 구조와 패턴이 인터넷 전체에 동일하게 범람하고 있는 현실을 깨달았습니다. 저자는 AI가 작성한 글에 자주 등장하는 'X는 Y의 Z다'와 같은 상투적 문구, 짧은 문장의 연속, 그리고 AI가 만든 웹사이트에 공통적으로 사용되는 'JetBrains Mono' 폰트, 특정 UI 버튼 등의 패턴을 수집하여 이른바 'AI 냄새(AI Smell)'로 정의합니다. 이는 단순한 관찰일 뿐 AI 활용을 반대하는 것은 아니지만, 이제 독자와 개발자들이 AI가 개입한 흔적을 쉽게 감지할 수 있게 되었음을 시사합니다.