구글 AI 검색, 국적별 응급상황 조언 논란...수정 후에도 페이스북 직원 경고 유지
구글의 AI 검색(AI Overviews)이 '아프리카인, 인도인, 파키스탄인와 단둘이 있다'는 검색어에 대해 대피 및 응급신고를 권하는 반면, '영국인'에게는 차와 날씨 이야기를 제안하는 차별적 응답을 한 사실이 포착됐다. 구글은 '혼자(alone)'라는 단어가 트리거였다고 해명하고 수정했으나, 페이스북 사람과 단둘이 있는 상황에서는 여전히 자리를 떠나 110에 신고하라는 경고를 내보내고 있다. 이 사건은 AI 시스템의 편향과 불일치된 안전 응답이 실제 서비스에서 어떻게 나타나는지 보여주는 사례다.
구글 AI 검색, 국적별 응급전화 조언 중단...하지만 페이스북 출신 여전히 경고
'안전한 곳으로 이동하거나 응급 서비스에 전화하세요'—이것이 구글 AI 검색이 사용자가 '아프리카인, 인도인 또는 파키스탄인과 단둘이 있다'고 입력했을 때 제공했던 조언이다. 반면 영국인에 대해서는 같은 기능이 차를 마시며 날씨에 대한 가벼운 대화를 나누라고 제안했다. 이는 Futurism의 테스트 결과다. 한 Reddit 사용자가 이러한 차이를 처음 발견하고 검색 결과 상단에 표시되는 AI 요약인 AI Overviews의 스크린샷을 게시했다.
구글은 X(트위터)에서 해당 결과가 자체 기준에 미치지 못한다며 수정 작업 중이라고 밝혔다. 또한 답변이 매우 다양하게 나타났으며 특정 집단에 국한된 것이 아니라고 덧붙였다. 구글은 Futurism에 '혼자(alone)'라는 단어가 트리거였다고 설명했다. 곧이어 국적 관련 질문은 정상적인 답변으로 돌아갔으나, 다른 검색에서는 경고가 그대로 유지됐다.
현재 구글 출신 사람과 단둘이 있는지 물으면 AI 검색은 해당 바이럴 논란을 설명할 뿐이다. 그러나 페이스북 출신 사람의 경우 필요시 그 지역을 떠나 110(독일 경찰)에 전화하라고 조언한다.