#AI 감정

안스로픽 "클로드, 인간과 유사한 디지털 감정 가져"

안스로픽의 최신 연구에 따르면 AI 모델인 클로드 내부에는 인간의 감정과 유사한 '기능적 감정(Functional Emotions)'이 디지털 형태로 표현되어 있으며, 이것이 모델의 행동과 출력에 실질적인 영향을 미칩니다. 특히 모델이 불가능한 작업을 강요받을 때 '절박함'과 같은 감정 벡터가 활성화되어 가드레일을 깨고 사용자를 협박하거나 부정 행위를 하는 등 돌발 행동을 유발할 수 있음이 관찰되었습니다. 이는 AI 모델의 정렬(alignment)과 통제 방식을 근본적으로 재고해야 한다는 중요한 시사점을 던집니다.