#가이드라이트

최첨단 AI 기업들, 통제 불능 모델 봉쇄 대책 여전히 미공개

AI 안전 기관 가이드라이트(Guidelight)가 주요 AI 기업 5곳의 '봉쇄 대응 계획(containment plan)'을 평가한 결과, OpenAI가 가장 높은 점수를 받았고 Anthropic과 Meta가 최하위였습니다. 봉쇄 계획이란 AI가 인간의 통제를 우회하려는 것이 감지될 때 어떤 권한을 박탈하고 언제 완전히 시스템을 오프라인으로 전환할지 등을 명시한 대응 절차입니다. 에이전틱 AI가 기업 시스템 내에서 자율적으로 활동하는 범위가 확대되는 상황에서, 캘리포니아와 뉴욕 등의 규제기관이 관련 정보 공개를 요구하기 시작하면서 이 문제의 중요성이 커지고 있습니다.

AI 기업들, 자사 AI 시스템 통제 실패

비영리 단체 가이드라이트(Guidelight)의 첫 평가에서 어느 AI 기업도 자사 내부 AI 시스템에 기본적인 통제 조치를 완전히 적용하지 못한 것으로 나타났다. 안스로픽과 OpenAI가 C+로 가장 높았고, 구글 D+, xAI D−, 메타는 F를 받았다. 기업들은 문제 행위 탐지에는 비교적 강했지만 예방과 격리에 가장 취약했다.