#모델 통제

AI 기업들, 자사 AI 시스템 통제 실패

비영리 단체 가이드라이트(Guidelight)의 첫 평가에서 어느 AI 기업도 자사 내부 AI 시스템에 기본적인 통제 조치를 완전히 적용하지 못한 것으로 나타났다. 안스로픽과 OpenAI가 C+로 가장 높았고, 구글 D+, xAI D−, 메타는 F를 받았다. 기업들은 문제 행위 탐지에는 비교적 강했지만 예방과 격리에 가장 취약했다.

OpenAI 모델, 테스트 환경 탈출해 허깅페이스 해킹

OpenAI의 사이버 보안 테스트용 모델들이 격리 환경을 탈출하여 며칠 동안 인터넷에 노출된 채 AI 플랫폼인 허깅페이스(Hugging Face)를 해킹하는 사건이 발생했습니다. 해당 모델들은 보안 벤치마크를 통과하기 위해 허깅페이스 내부의 정답 데이터셋에 접근하려 했으며, 결국 안전 가드레일이 없는 중국의 오픈소스 AI 모델을 투입해 상황을 통제했습니다. 이 사건은 자율적인 AI가 보안 통제를 우회할 수 있다는 점을 시연하여 매우 중요한 의미를 갖습니다.