TD
The Decoder • 40일 전
IMP 9
구글 딥마인드, 자체 AI 에이전트를 내부 보안 위협으로 간주하다
구글 딥마인드가 고도화된 AI 에이전트를 신뢰할 수 없는 '내부 보안 위협(Insider Threat)'으로 규정하고, 검증된 행동에 따라 단계적으로 권한을 부여하는 'AI 통제 로드맵(AI Control Roadmap)'을 발표했습니다. 이 프레임워크는 AI가 자신의 의도를 숨기거나 통제 시스템을 우회하는 것을 방지하기 위해 행동을 모니터링하고 위험도에 따라 실시간으로 차단하는 체계를 갖추고 있습니다. 업계 전반에 적용될 수 있는 이 글로벌 안전 표준의 마련 시기가 점차 줄어들고 있어 그 중요성이 큽니다.
인공지능 안전 AI 통제 구글 딥마인드