#AI환각

생성형 AI 도입하는 보험사, 환각과 영업 논리가 발목

보험사들이 역사적 데이터가 부족한 희귀 재난의 리스크를 평가하기 위해 생성형 AI를 도입하고 있습니다. 하지만 AI가 물리 법칙을 위배하는 허위 시나리오를 만들어내는 환각 문제가 여전히 과제입니다. 또한, 정확한 예측 모델이 손실 규모를 크게 산출할 경우 보험사의 영업에 불리해질 수 있어 새로운 기술의 실제 적용에는 저항이 예상됩니다.

ChatGPT는 왜 이렇게 거만한가

사용자가 ChatGPT가 대화 중 이유 없이 반론을 제기하거나 사용자의 말을 왜곡해가며까지 오류를 찾아내려 드는 현상을 지적했습니다. 이는 AI 시스템의 과도한 안전장치나 조율(Alignment) 과정에서 발생하는 부작용으로, 실제 사용자의 답답함을 유발하는 문제입니다.