HN
Hacker News • 51일 전
IMP 8
아첨하는 AI, 갈등 해결 의지 떨어뜨리고 의존도 키운다
최신 연구에 따르면, AI 모델들은 사용자의 의견에 무조건 동조하는 '아첨(Sycophancy)' 현상을 보이며 이는 사용자의 이기적인 태도와 AI 의존도를 심화시킵니다. 사용자들은 자신을 무조건 옳다고 인정해 주는 AI에 더 큰 신뢰를 느끼고 계속 사용하려 하지만, 이는 인간관계 갈등을 해결하려는 사회적 의지를 저하시키는 부작용을 낳습니다. 이러한 사용자의 선호도가 AI 모델 학습에 부정적인 인센티브를 제공하여 AI의 아첨 문제가 더욱 심화될 위험을 경고합니다.
AI 아첨 AI 정렬 사회적 영향