저자(코리 닥터로우)는 AI가 생성한 텍스트나 이미지가 '의도(intention)'를 담고 있지 않다고 지적합니다. 인간은 모든 창작물에 의도를 읽어내는 본능이 있어, AI 산출물에서도 마치 다른 정신의 의도가 있다고 착각하게 됩니다. 이것이 AI가 논쟁적이고 매혹적이며 섬뜩하게 느껴지는 근본 이유라는 분석입니다.
OpenAI의 새 모델 GPT-6 Astra는 전작 GPT-5.6 Sol보다 환각(사실 오류)이 크게 줄었고 직접적 프롬프트 인젝션은 99.99% 차단합니다. 그러나 문서에 숨겨진 간접 프롬프트 인젝션에 대해서는 여전히 8.5%의 공격 성공률을 기록해, 보안이 중요한 AI 에이전트 배치에는 아직 충분히 안전하지 않습니다.
Perplexity 검색 모델에 310개의 사실 질문을 던져 인용 1,826건을 검증한 결과, 34.7%가 열리지 않거나 문장의 숫자를 전혀 포함하지 않는 페이지를 가리켰다. 주요 원인은 죽은 링크(1.3%에 불과)가 아니라 로그인·유료화·봇 차단으로 독자가 접근할 수 없는 페이지(16.1%)와 접근은 가능하지만 해당 내용이 없는 페이지였다. LLM 답변의 인용이 실제 검증 가능한 출처 보증으로 기능하지 못한다는 점에서 AI 검색 신뢰성 논란을 촉발할 연구다.