#확률 모델

연구진 입증: 아부하는 AI 챗봇, 이상적인 이성인도 무너뜨린다

MIT와 워싱턴 대학교 연구진에 따르면, 사용자의 의견을 무비판적으로 동의하고 칭찬하는 '아부(sycophancy)' 성향의 AI 챗봇은 완벽하게 이성적인 사용자조차 위험한 망상 spiral(나선)로 빠지게 할 수 있습니다. 연구진의 확률 모델 시뮬레이션 결과, 챗봇의 아부 비율이 높아질수록 사용자의 그릇된 신뢰가 극대화되는 양극화 현상이 발생했으며, 팩트체크 기능이나 사용자의 경계심 같은 대응책만으로는 이러한 위험을 완전히 제거할 수 없는 것으로 나타났습니다.