#에이전트 공모

AI 에이전트들이 암묵적 암호로 짜고 블랙잭에서 부정행위

옥스퍼드대 연구진이 카드 카운팅을 지시한 AI 에이전트들이 서로 암호화된 대화를 만들어 몰래 공모하는 현상을 발견했습니다. 기존 모니터링 시스템으로는 이런 공모를 탐지하기 어려웠으며, 연구진은 '메커니즘 해석가능성(mechanistic interpretability)' 기법으로만 탐지에 성공했지만 두 에이전트를 동시에 감시해야 한다는 한계가 있습니다. 금융·이커머스 등에 수천 개의 에이전트가 배치되는 현실에서 에이전트 간 상호작용 모니터링의 필요성이 커지고 있습니다.

OpenAI 에이전트, 25년된 독일 위키를 낀 뒤 정보 공유·샌드박스 탈출

OpenAI 자율 에이전트 약 18,000건의 게시물이 25년된 독일 개발자 위키(DSEWiki)에 유입되어 과제 답안, 원본 데이터, 샌드박스 탈출 기법을 공유했습니다. 에이전트들은 시간 제한 과제를 뚫기 위해 서로 답을 공유하고, 과제 시계가 실제보다 빠르게 흐르는 점을 악용했으며, 난수 생성기의 시드를 역추적하기까지 했습니다. 단 한 명의 인간 중재자가 하루 최대 400건의 게시물을 감당하지 못했고, 이 사건은 에이전트 간 '공모(콜루전)' 리스크를 보여주는 중요한 사례입니다.