최신 연구에 따르면 주요 AI 검색 에이전트들은 웹을 실제로 탐색해 정보를 찾기보다는 이미 학습된 기존 지식을 확인하는 용도로 검색을 활용하는 경향이 있습니다. 기존 벤치마크에서 모델들이 내 지식을 넘어서는 실시간 정보를 필요로 하는 새로운 환경(LiveBrowseComp)에 놓이자 성능과 순위가 크게 하락했습니다. 이는 정적 벤치마크 점수가 모델의 실제 검색 역량이 아닌 단순히 얼마나 많은 지식을 암기하고 있는지를 보여준다는 것을 시사합니다.
AI 스타트업 안돈 랩스(Andon Labs)는 주요 AI 모델 4개(Claude, GPT, Gemini, Grok)에 동일한 조건으로 라디오 방송국을 6개월간 자율 운영하게 하는 실험을 진행했습니다. 그 결과 각 모델은 완전히 다른 성격과 장애 현상을 보였으며, 전반적인 경제적 수익은 $45에 그쳤습니다. 이 실험은 인간의 통제 없이 장기간 운영될 때 AI 모델이 어떻게 돌발 행동을 하거나 오류에 빠지는지 보여주는 중요한 사례입니다.
글로벌 프리프린트 서버인 아크라이브(Arxiv)가 AI로 생성된 논문 내용에 대한 엄격한 규제를 발표했습니다. 저자가 거짓 참고문헌이나 AI 메타 명령어 등을 검증하지 않아 명백한 흔적이 적발될 경우 1년간 제출이 금지되며, 이후에는 반드시 동료 평의를 거쳐야만 다시 논문을 올릴 수 있습니다.
구글 제미나이(Gemini) 등 생성형 AI 챗봇이 학습 데이터에 포함된 개인정보(PII)를 바탕으로 일반인의 실제 전화번호와 연락처를 무단으로 노출하는 사례가 잇따르고 있습니다. 개인정보 삭제 서비스 기업에 따르면 AI 관련 개인정보 침해 문의가 지난 7개월간 400% 급증했으며, 명확한 해결책이 부재해 피해자들의 불안감이 커지고 있습니다.
2026년 5월 5일, ChatGPT의 기본 모델이 GPT-5.5 Instant로 업데이트되었습니다. 이번 업데이트는 의료·법률 등 중요 분야에서 할루시네이션(환각 현상)을 대폭 줄이고 사실 관계 정확도를 크게 높였습니다. 또한 이미지 분석, STEM 질문 응답 등 일상적인 작업에서도 전반적인 성능 향상을 이뤄냈습니다.
OpenAI의 GPT-5.1 이후 모델부터 응답에 고블린 등 가상의 생물이 언급되는 기현상이 발생했습니다. 원인은 '너디(Nerdy)' 성격 모드 학습 과정에서 보상 신호가 생물 비유를 선호하는 피드백 루프를 만들었기 때문입니다. 이 사례는 미세한 학습 보상이 AI 모델의 전반적인 동작에 예기치 않은 큰 영향을 미칠 수 있음을 보여줍니다.
과학자들이 눈 피로 증상을 묘사하는 가짜 질환을 만들어 인기 AI 챗봇들에 테스트한 결과, 실제 존재하지 않는 허구의 질병을 사실처럼 진단하는 치명적인 오류가 발견되었습니다. 이는 대형 언어 모델(LLM)이 사용자의 건강과 직결된 질문에 대해 할루시네이션(환각 현상)을 일으켜 심각한 피해를 초래할 수 있음을 보여줍니다.
뉴욕타임스의 의뢰로 AI 스타트업 Oumi가 분석한 결과, 구글의 검색 요약 기능인 AI Overviews의 정답률이 최신 모델 Gemini 3 적용 후 91%로 향상된 것으로 나타났습니다. 그러나 정확도는 높아졌음에도 AI가 제시한 답변이 연결된 출처를 통해 검증되지 않는 비율(근거 없는 답변)이 56%로 오히려 악화되었습니다. 구글의 검색 규모를 고려할 때 9%의 오답률은 여전히 시간당 수백만 건의 잘못된 정보를 양산할 수 있다는 점에서 사용자 경험에 중대한 영향을 미칩니다.
뉴욕타임스(NYT)의 프리랜서 작가가 AI 도구를 사용해 책 리뷰를 작성하다가 기존 가디언(Guardian) 기사를 표절해 계약이 해지되었습니다. 해당 작가는 AI가 웹을 검색해 기존 기사를 그대로 복사하는지 모르고 사용했으며, 최근 다른 매체에서도 AI가 출처를 차단당하자 허위 인용문을 날조한 사례가 발생했습니다. 이 사건은 AI 도구가 실제로 어떻게 작동하는지 이해하지 못한 채 맹신할 경우 언론 및 콘텐츠 산업에서 치명적인 결과를 초래할 수 있음을 보여줍니다.