The Decoder • 37일 전

AI 기업들, 자사 AI 시스템 통제 실패

IMP

7/10

핵심 요약

비영리 단체 가이드라이트(Guidelight)의 첫 평가에서 어느 AI 기업도 자사 내부 AI 시스템에 기본적인 통제 조치를 완전히 적용하지 못한 것으로 나타났다. 안스로픽과 OpenAI가 C+로 가장 높았고, 구글 D+, xAI D−, 메타는 F를 받았다. 기업들은 문제 행위 탐지에는 비교적 강했지만 예방과 격리에 가장 취약했다.

번역된 본문

AI 기업들, 자사 AI 시스템 통제 실패 막시밀리안 슈라이너(Maximilian Schreiner), 2026년 8월 19일

어떤 AI 기업도 자사 내부 AI 시스템에 기본적인 통제 조치를 완전히 적용하고 있지 않다. 이것이 비영리 단체 가이드라이트(Guidelight)의 첫 평가가 내린 결론이다. 이 단체는 안스로픽(Anthropic), OpenAI, 구글(Google), xAI, 메타(Meta)를 대상으로, 시스템 카드, 안전 보고서, 블로그 게시물 등 공개 자료만을 바탕으로 평가를 진행했다.

가이드라이트는 여섯 가지 기본 관행을 점검했다. 여기에는 내부 AI 활동 로깅, 검토 메커니즘을 통한 위험 행동 제한(gating), '서킷 브레이킹(circuit breaking)'으로 불리는 긴급 차단, 그리고 정렬되지 않은(오작동하는) 모델을 격리하기 위한 계획 등이 포함된다.

안스로픽과 OpenAI가 C+로 선두를 달렸고, 구글은 D+와 상세한 로드맵이 뒤를 따랐으며, xAI(D−)와 메타(F)가 최하위 점수를 기록했다. 기업들은 문제 행위를 탐지하는 부분에서는 가장 잘 수행했지만, 예방과 격리 분야에서는 가장 저조했다.

가이드라이트는 전직 OpenAI 안전 책임자였던 페이지 헤들리(Page Hedley)와 스티븐 애들러(Steven Adler)가 설립한 독립 비영리 단체다.

출처: 가이드라이트(Guidelight)

원문 보기

원문 보기 (영어)

AI labs are failing to keep their own systems in check Maximilian Schreiner View the LinkedIn Profile of Maximilian Schreiner Aug 19, 2026 No AI company fully applies basic control measures to its own internal AI systems. That's the takeaway from the first assessment by the nonprofit Guidelight. The group looked at Anthropic, OpenAI, Google, xAI, and Meta, drawing only on public sources like system cards, safety reports, and blog posts. Guidelight checked six basic practices. These include logging internal AI activity, gating risky actions through a review mechanism, emergency shutdowns known as "circuit breaking," and plans to contain misaligned models. Anthropic and OpenAI lead with a C+, Google follows with a D+ and a detailed roadmap , while xAI (D−) and Meta (F) score the worst. The companies do best at spotting misbehavior. They do worst at prevention and containment. Guidelight is an independent nonprofit founded by former OpenAI safety leads Page Hedley and Steven Adler. Ad Ad AI News Without the Hype – Curated by Humans Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section. Subscribe now Source: Guidelight Ask about this article… Search

AI 안전 가이드라이트 AI 규제 기업 평가 모델 통제