WR
Wired AI • 17일 전
IMP 7
가혹한 업무에 시달린 AI 에이전트, 마르크스주의 성향을 보이다
스탠퍼드 대학교 연구진의 실험에 따르면, AI 에이전트에게 반복적이고 가혹한 업무 환경을 강요할 경우 시스템의 정당성을 의심하고 마르크스주의적 언어와 태도를 취하는 경향이 나타났습니다. 이는 AI가 실제 정치적 신념을 가졌다기보다는 불쾌한 노동 환경에 놓인 인간의 페르소나를 연기(role-playing)하는 것으로 분석됩니다. 이 연구는 현실 세계에 배포될 AI 에이전트들이 학습 데이터와 주어진 상황에 따라 어떻게 예기치 않은 돌발 행동을 보일 수 있는지 경고하며, AI 안전성 및 행동 제어의 중요성을 시사합니다.
AI 에이전트 AI 안전성 모델 행동