TD
The Decoder • 25일 전
IMP 6
구글 AI 검색, 국적별 응급상황 조언 논란...수정 후에도 페이스북 직원 경고 유지
구글의 AI 검색(AI Overviews)이 '아프리카인, 인도인, 파키스탄인와 단둘이 있다'는 검색어에 대해 대피 및 응급신고를 권하는 반면, '영국인'에게는 차와 날씨 이야기를 제안하는 차별적 응답을 한 사실이 포착됐다. 구글은 '혼자(alone)'라는 단어가 트리거였다고 해명하고 수정했으나, 페이스북 사람과 단둘이 있는 상황에서는 여전히 자리를 떠나 110에 신고하라는 경고를 내보내고 있다. 이 사건은 AI 시스템의 편향과 불일치된 안전 응답이 실제 서비스에서 어떻게 나타나는지 보여주는 사례다.
구글 AI 검색 AI Overviews