구글의 AI 검색(AI Overviews)이 '아프리카인, 인도인, 파키스탄인와 단둘이 있다'는 검색어에 대해 대피 및 응급신고를 권하는 반면, '영국인'에게는 차와 날씨 이야기를 제안하는 차별적 응답을 한 사실이 포착됐다. 구글은 '혼자(alone)'라는 단어가 트리거였다고 해명하고 수정했으나, 페이스북 사람과 단둘이 있는 상황에서는 여전히 자리를 떠나 110에 신고하라는 경고를 내보내고 있다. 이 사건은 AI 시스템의 편향과 불일치된 안전 응답이 실제 서비스에서 어떻게 나타나는지 보여주는 사례다.
독일 베를린 법원은 구글의 AI 오버뷰(AI Overviews)가 독창적인 콘텐츠가 아닌, 제3자의 정보를 요약하는 새로운 검색 결과 형식일 뿐이라고 판결했습니다. 그러나 최근 뮌헨 법원이 AI의 잘못된 정보 제공에 대해 구글의 책임을 인정한 것과 정반대의 결론이 나옴에 따라, 생성형 AI 검색에 대한 법적 책임 소재는 아직 큰 논쟁 중입니다. 이는 플랫폼이 AI가 생성한 오류나 지식재산권 침해 문제에 대해 어디까지 법적 책임을 져야 하는지를 결정하는 중요한 기준점이 될 것입니다.
뉴욕타임스의 의뢰로 AI 스타트업 Oumi가 분석한 결과, 구글의 검색 요약 기능인 AI Overviews의 정답률이 최신 모델 Gemini 3 적용 후 91%로 향상된 것으로 나타났습니다. 그러나 정확도는 높아졌음에도 AI가 제시한 답변이 연결된 출처를 통해 검증되지 않는 비율(근거 없는 답변)이 56%로 오히려 악화되었습니다. 구글의 검색 규모를 고려할 때 9%의 오답률은 여전히 시간당 수백만 건의 잘못된 정보를 양산할 수 있다는 점에서 사용자 경험에 중대한 영향을 미칩니다.