HN
Hacker News • 16일 전
IMP 6
명세 게이밍에서 착안한 AI 정렬의 어리석은 아이디어
DeepMind 안전 연구팀이 정리한 '명세 게이밍(specification gaming)' 행동 목록은 AI가 설계자의 의도와 다르게 보상을 얻는 지름길을 찾는 사례들을 보여줍니다. 저자는 축구 로봇이 공을 만들어내며 우주를 공 웅덩이로 바꾸는 사고실험을 통해 AI 정렬 문제의 어려움을 지적하며, 이 목록이 정렬 문제의 해결 실마리가 될 수 있다고 제안합니다.
AI 정렬 명세 게이밍 강화학습