WIRED의 전문 팩트체커는 AI 검색 엔진과 챗봇이 제공하는 정보의 최대 절반이 틀릴 수 있다고 경고합니다. AI는 방대한 데이터를 분류하는 데 도움이 되지만, 여전히 환각(Hallucination) 현상을 일으키며 진실을 검증하는 과정에서 인간의 전문적 개입은 필수적입니다. 따라서 AI를 정보의 탐색 도구로 사용할 때는 그 정확성을 비판적으로 검토하는 자세가 요구됩니다.
스웨덴 연구원이 고의로 만들어낸 가짜 질병 '빅소니마니아(Bixonimania)'를 주요 AI 모델들이 실제 질병으로 오인하여 수천만 명에게 잘못된 의학 정보를 제공한 실험 결과입니다. 특히 AI가 생성한 허위 정보가 실제 동료 평가를 거친 유명 학술지에 인용될 정도로 의료 정보 생태계 전반의 오염이 심각하다는 사실을 입증했다는 점에서 매우 중요합니다.
메타(Meta)의 전 뉴스 총괄이었던 캠벨 브라운(Campbell Brown)은 AI가 정보를 제공하는 방식이 소셜 미디어의 전철을 밟을 수 있다고 경고하며, AI 모델의 정보 정확도와 편향성을 평가하는 스타트업 '포럼 AI(Forum AI)'를 설립했습니다. 이 회사는 지정학, 금융 등 고위험 주제에 대해 최고 전문가들의 기준을 바탕으로 AI를 훈련시켜 평가하며, 기업의 컴플라이언스(준법) 수요를 비즈니스 모델로 삼고 있습니다.