#명령어 승인

AI 에이전트 명령어 검토 실험: 인간의 3분의 1이 위협을 놓쳐

AI 코딩 에이전트가 실행을 요청하는 명령어를 인간이 검토하는 '휴먼 인 더 루프(Human-in-the-loop)' 환경의 취약성을 4만 건의 게임 데이터로 분석한 결과입니다. 시간 압박 속에서 검토를 진행한 평균 사용자의 3분의 1 가까이가 데이터 탈취 등 심각한 보안 위협 명령어를 승인하는 것으로 나타났습니다. 특히 친숙한 명령어 뒤에 숨겨진 악성 스크립트를 검토할 때 검출률이 급격히 떨어지며, 시스템 보안의 마지막 방어선인 인간의 검토 과정이 생각보다 취약하다는 것을 시사합니다.