뉴스레터 플랫폼 서브스택(Substack)이 AI가 작성한 글을 판별하는 새로운 탐지 도구를 도입하자, 작가들은 부정확한 탐지 결과로 인해 명예가 훼손될 수 있다며 강하게 반발하고 있습니다. 서브스택은 AI 사용 자체를 금지하는 것은 아니며 작가가 자체적으로 제작 과정을 밝힐 수 있는 기능을 지원하지만, 탐지 도구의 낮은 정확도와 오남용에 대한 우려는 여전히 남아있는 상황입니다.
2026년 초 현재, 주류 LLM이 생성한 텍스트는 강력한 통계적 패턴을 띠고 있어 고전적인 머신러닝 모델로 인간이 쓴 글과 효과적으로 구분할 수 있습니다. 개발자는 Scikit-learn의 기본 모델들을 활용해 단일 문장 기준 약 85%의 정확도를 보이는 AI 텍스트 탐지 데모를 구축했습니다. 이는 기업이나 플랫폼에서 무거운 LLM 모델을 사용하지 않고도 가벼운 분류 모델로 AI 표절을 방지하고 콘텐츠 품질을 관리할 수 있는 실질적인 방안을 제시합니다.
최신 AI가 시각적 이미지 분류에서 인간을 능가하지만, 문제 해결 과정(클릭 패턴, 오류 유형 등)에서 인간과 통계적으로 유의미한 차이를 보입니다. 연구진은 30개의 인지 심리학 과제를 결합한 'CogCAPTCHA30' 벤치마크를 제안하여 기존 튜링 테스트의 한계를 넘어 AI의 인지 과정을 평가하는 '프로세스 튜링 테스트' 개념을 도입했습니다. 흥미롭게도 최신 대형 프론티어 모델보다 인간의 행동 데이터로 미세조정된 소규모 오픈소스 모델이 인간의 인지 과정과 더 유사한 것으로 나타났습니다.