BL
r/ChatGPT • 40일 전
ChatGPT는 왜 이렇게 거만한가
IMP 5/10
핵심 요약
사용자가 ChatGPT가 대화 중 이유 없이 반론을 제기하거나 사용자의 말을 왜곡해가며까지 오류를 찾아내려 드는 현상을 지적했습니다. 이는 AI 시스템의 과도한 안전장치나 조율(Alignment) 과정에서 발생하는 부작용으로, 실제 사용자의 답답함을 유발하는 문제입니다.
번역된 본문
ChatGPT는 계속해서 '부드럽게 반박'하거나 '조심스럽게 반론을 제기'하려고 하며, 때로는 내 말 속에서 오류를 찾아내기 위해 아예 내 말을 왜곡해버리기까지 합니다.
원문 보기 (영어)
It keeps on wanting to “gently push back” or “gently challenge” and sometimes just straight up twists my words so it can find mistakes in it
관련 소식