#GPTZero

AI 글 탐지기, '특정 작가 문체 모방' 앞에서 무력화된다

최신 연구에 따르면, Pangram, GPTZero 등 대표적인 AI 텍스트 탐지기들은 일반적인 AI 생성 문장은 거의 완벽하게 걸러내지만, 특정 작가의 문체를 의도적으로 모방해 생성한 텍스트는 탐지율이 크게 떨어집니다. 특히 논문 등 학술 글쓰기 분야에서는 최대 29%까지 AI 텍스트를 탐지하지 못하는 치명적인 취약점이 드러났습니다. 이는 교육 및 연구 기관에서 AI 탐지 도구를 맹신할 경우 심각한 무결성 문제를 초래할 수 있음을 시사합니다.

KPMG AI 도입 보고서, 조작 사례 논란

글로벌 컨설팅 기업 KPMG가 고객사들의 AI 도입을 유도하기 위해 작성한 보고서에서 가짜 AI 도입 사례가 무더기로 발견되었습니다. 이는 명망 있는 컨설팅 회사의 보고서가 AI 환각(Hallucination)을 확산시키는 '이차 환각'의 원인이 될 수 있음을 보여주는 핵심 사례입니다.

KPMG AI 환각 오류로 보고서 철회

글로벌 컨설팅 기업 KPMG가 작성한 AI 활용 보고서가 AI 환각(Hallucination)으로 인한 심각한 허위 사실 기재로 확인되어 전면 철회되었습니다. 이는 UBS 등 다수의 실제 기관들이 보고서 내용과 다르다고 반박하면서 발생한 일로, 전문 기관조차 AI가 생성한 결과물에 대한 검증 없이 이를 공식 문서로 발행할 때 따를 수 있는 치명적인 리스크를 보여줍니다.