메뉴
BL
The Decoder • 37일 전

OpenAI, 고객 데이터 저장 없이 악용을 탐지하는 안전 시스템 공개

IMP
7/10
핵심 요약

OpenAI가 기업 고객에게 데이터를 저장하지 않으면서도 AI 악용을 탐지할 수 있는 'Private Safety Processing' 안전 시스템을 구축했다. 이 시스템은 제로 데이터 유지(ZDR) 방식으로 여러 관련 대화에서 악용 패턴을 감지하며, OpenAI는 실제 입출력 내용 없이 활동 유형과 심각도 같은 좁은 안전 신호만 받는다. 경쟁사 Anthropic이 최강 모델에 30일 데이터 보관을 요구하는 것과 대비된다.

번역된 본문

OpenAI가 고객 데이터를 저장하지 않으면서도 악용을 탐지할 수 있는 안전 시스템 구축

OpenAI는 기업 고객에게 데이터를 저장하지 않으면서도 가장先进的 AI 모델을 제공하고, 동시에 악용을 적발하기를 원한다. 이를 실현하기 위해 회사는 'Private Safety Processing(프라이빗 안전 처리)'이라는 안전 시스템을 구축했다.

이 시스템은 제로 데이터 유지(ZDR, Zero Data Retention), 즉 처리 후 데이터를 보관하지 않는 상태를 유지하면서도 여러 관련 상호작용에 걸쳐 악용 패턴을 탐지한다. OpenAI에 따르면, 회사는 실제 입력이나 출력을 보지 않고 활동의 유형과 심각도를 포함하는 좁은 범위의 안전 신호만 받는다. 고객 데이터는 고객 자체 인프라에 남아 있거나 암호화 형태로 저장되며, 암호화 키는 고객이 보유한다.

OpenAI의 제품 정책 책임자인 알리아 하우즈(Aleah Houze)는 위험이 여러 대화에 걸쳐서야 비로소 드러나는 경우가 많다고 말했다.

반면 경쟁사 Anthropic은 Fable 5 같은 가장 강력한 모델에 대해 30일간의 데이터 보관을 요구하고 있다.

OpenAI에 따르면 기술 백서는 9월에 공개될 예정이다.

원문 보기
원문 보기 (영어)
OpenAI builds safety system that catches misuse without storing customer data Maximilian Schreiner View the LinkedIn Profile of Maximilian Schreiner Aug 20, 2026 OpenAI wants to offer enterprise customers its most advanced AI models without storing their data, while still catching misuse. The company built a safety system called "Private Safety Processing" to make that work. The system detects abuse patterns across multiple related interactions while maintaining zero data retention (ZDR), meaning no data is kept after processing. OpenAI says it only receives a narrow safety signal that includes the type and severity of an activity, without seeing the actual inputs or outputs. Customer data remains on the customer’s own infrastructure or is stored in encrypted form, with the customer retaining the keys. Aleah Houze, Head of Product Policy at OpenAI, said that risks often only become apparent over the course of multiple conversations. Competitor Anthropic, on the other hand, requires 30 days of data retention for its most powerful models, such as Fable 5 . According to OpenAI, a technical white paper is expected to be released in September. Ad Ad AI News Without the Hype – Curated by Humans Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section. Subscribe now Source: OpenAI Ask about this article… Search
관련 소식