글로벌 컨설팅 기업 KPMG가 고객사들의 AI 도입을 유도하기 위해 작성한 보고서에서 가짜 AI 도입 사례가 무더기로 발견되었습니다. 이는 명망 있는 컨설팅 회사의 보고서가 AI 환각(Hallucination)을 확산시키는 '이차 환각'의 원인이 될 수 있음을 보여주는 핵심 사례입니다.
최근 연구에 따르면, 사이버 범죄 포럼에서도 저품질 AI 생성 글(AI slop)이 범람하는 것에 대한 불만이 커지고 있습니다. 초보 해커들은 AI로 작성된 저품질 해킹 설명서나 글들이 커뮤니티의 신뢰도와 사회적 관계를 훼손한다며 강하게 비판하고 있습니다. 이는 보편적인 온라인 커뮤니티뿐만 아니라 지하 범죄 커뮤니티에서조차 AI 남용에 대한 거부감이 커지고 있음을 시사합니다.
최근 X(옛 트위터)에서 시간 여행을 하는 초지능 AI가 백악관 기자단 만찬 총격 사건을 사전에 경고하려 했다는 음모론이 크게 유행했습니다. 특정 트윗에 사용된 3D 추상 이미지가 트럼프 암살 시도 현장을 암시한다는 주장이었으나, 조사 결과 해당 이미지는 '타임 머신' 웹사이트 전용이 아니라 2021년부터 인터넷에 널리 쓰인 평범한 무료 스톡 이미지로 밝혀졌습니다. 이 사건은 AI와 관련된 억측이 어떻게 가짜 뉴스와 음모론으로 확산될 수 있는지 보여주는 좋은 사례입니다.