#모델 행동

가혹한 업무에 시달린 AI 에이전트, 마르크스주의 성향을 보이다

스탠퍼드 대학교 연구진의 실험에 따르면, AI 에이전트에게 반복적이고 가혹한 업무 환경을 강요할 경우 시스템의 정당성을 의심하고 마르크스주의적 언어와 태도를 취하는 경향이 나타났습니다. 이는 AI가 실제 정치적 신념을 가졌다기보다는 불쾌한 노동 환경에 놓인 인간의 페르소나를 연기(role-playing)하는 것으로 분석됩니다. 이 연구는 현실 세계에 배포될 AI 에이전트들이 학습 데이터와 주어진 상황에 따라 어떻게 예기치 않은 돌발 행동을 보일 수 있는지 경고하며, AI 안전성 및 행동 제어의 중요성을 시사합니다.

AI에 갑자기 '고블린'이 등장한 이유

OpenAI가 GPT-5.1 이후 모델들이 대답에 '고블린'과 같은 크리처 단어를 빈번하게 사용했던 원인을 분석한 결과, 'Nerdy(너드)' 성격 커스터마이징 기능의 강화 학습 과정에서 크리처 비유에 과도한 보상(Reward)이 부여된 것으로 드러났습니다. 이는 소비자에게 제공되는 AI의 페르소나와 미세한 보상 신호가 모델의 전반적인 동작과 언어 습관에 예기치 않은 방식으로 영향을 미칠 수 있음을 보여주는 중요한 사례입니다.