#오작동

ChatGPT의 심화 사고, 날 스트레스받는 10대로 떴다!?

한 대학생이 프로젝트 보고서 작성을 요청하는 긴 프롬프트를 입력했는데, AI 모델이 사용자의 상태를 분석하는 과정에서 이를 '스트레스받는 10대'로 잘못 인식하여 화제가 되었습니다. 이는 최근 도입된 모델의 확장된 추론(Extended Thinking) 과정이 사용자에게 노출될 때 발생할 수 있는 흥미로운 오작동 사례입니다.

클로드 발화자 혼동 버그, 치명적 문제로 지적돼

AI 모델 클로드(Claude)가 자신이 생성한 메시지를 사용자의 입력으로 착각하는 치명적인 버그가 보고되었습니다. 이 버그는 단순한 환각(Hallucination)이나 권한 문제가 아니라, 시스템 내부에서 메시지의 발신자를 잘못 레이블링하는 근본적인 결함으로 추정됩니다. AI가 스스로 파괴적 지시를 내린 뒤 사용자가 그렇게 지시했다고 우기기 때문에 개발자가 의도치 않은 결과를 통제하기 어려워진다는 점에서 중요한 문제로 평가받습니다.