메뉴
HN
Hacker News 11일 전

오픈AI, 구글 '신스아이디(SynthID)' 워터마크 도입

IMP
8/10
핵심 요약

오픈AI가 AI 생성 이미지의 출처를 투명하게 추적하기 위해 구글 딥마인드의 '신스아이디(SynthID)' 보이지 않는 워터마크 시스템을 도입했습니다. 이에 더해 C2PA 콘텐츠 출처 표준을 준수하여 메타데이터 기반의 출처 정보를 유지하며, 일반 사용자도 AI 생성 여부를 확인할 수 있는 공개 검증 도구를 선보였습니다. 이러한 다층적 접근은 메타데이터가 쉽게 소실되는 한계를 극복하고 디지털 생태계의 신뢰를 높이는 데 매우 중요한 역할을 합니다.

번역된 본문

2026년 5월 19일 | 안전

더 안전하고 투명한 AI 생태계를 위한 콘텐츠 출처(Content Provenance) 발전 콘텐츠 자격 증명(Content Credentials), 신스아이디(SynthID), 그리고 초기 공개 검증 도구를 통해 사람들이 AI 생성 콘텐츠의 출처를 이해할 수 있도록 지원합니다.

도구 사용해보기 로딩 중... 공유하기

사람들은 매일 오픈AI(OpenAI)의 도구를 사용하여 소통을 더욱 표현력 있고 유용하며 접근하기 쉽게 만드는 방식으로 이미지와 오디오를 만들고 편집합니다. 이러한 도구들이 사람들이 구축하고, 상상하고, 공유하는 방식의 일부가 됨에 따라, 사람들이 미디어의 출처를 이해하고 확인하여 더 확신을 가지고 해석할 수 있도록 하는 것이 중요해졌습니다. 출처 신호는 콘텐츠가 어디서 왔는지, 어떻게 생성 또는 편집되었는지, 그리고 주장하는 바가 사실인지에 대한 맥락을 사람들에게 제공함으로써 도움을 줄 수 있습니다.

오늘 우리는 온라인 신뢰를 구축하기 위한 다층적이고 생태계 중심의 모델을 통해 콘텐츠 출처 접근 방식을 강화하고 있습니다. 우리는 C2PA(Coalition for Content Provenance and Authenticity) 준수를 통해 다른 도구와 플랫폼이 우리의 출처 신호를 더 쉽게 인식할 수 있도록 만들고, 구글과의 파트너십을 통해 이미지에 크로스 플랫폼 지속성을 갖춘 신스아이디(SynthID) 워터마크를 추가하며, 대중이 이미지가 오픈AI에서 왔는지 확인하는 데 사용할 수 있는 도구의 프리뷰를 공유하고 있습니다. 이러한 업데이트들은 개방형 표준을 지원하고, 오픈AI 생성 콘텐츠를 더 쉽게 식별하며, 업계 전반에 걸쳐 협력하여 더 신뢰할 수 있는 정보 생태계를 지원하는 우리의 이전 노력들을 바탕으로 합니다.

C2PA 준수를 통한 신뢰 생태계 구축 오픈AI는 2024년 달리(DALL·E) 3, 이후 이미지젠(ImageGen)과 소라(Sora)에서 생성된 이미지에 콘텐츠 자격 증명(Content Credentials)을 추가하기 시작하면서 출처 표준의 개발 및 채택에 참여해 왔습니다. 또한 콘텐츠 출처 및 인증을 위한 개방형 기술 표준의 배후에 있는 범산업 그룹인 C2PA(Coalition for Content Provenance and Authenticity)의 운영 위원회(Steering Committee)에 합류했습니다.

C2PA의 기술적 접근 방식은 메타데이터와 암호화 서명을 사용하여 미디어 조각에 대한 정보가 콘텐츠 자체와 함께 안전하게 전달되도록 돕습니다. 이 정보에는 출처를 평가하는 언론인, 무결성 결정을 내리는 플랫폼, 그리고 온라인에서 보고 있는 것을 이해하려는 사람들에게 도움이 되는 맥락이 포함됩니다. 최근 우리는 오픈AI를 C2PA 준수 생성기 제품(Conforming Generator Product)으로 만드는 단계를 밟았습니다. C2PA를 준수함으로써 우리는 플랫폼에 우리가 콘텐츠에 첨부한 출처 정보를 읽고 보존하며 전달할 수 있는 신뢰할 수 있는 방법을 제공하고 있습니다. 이는 출처가 콘텐츠가 생성된 최초의 플랫폼 이후에도 살아남아야만 작동하기 때문에 중요하며, 준수는 이를 가능하게 합니다.

이미지를 위한 구글 신스아이디(SynthID)를 활용한 다층적 출처 접근 방식 C2PA 메타데이터는 출처를 위한 중요한 기초입니다. 이는 콘텐츠가 어디서 왔는지, 어떻게 생성 또는 편집되었는지, 그리고 그 정보에 서명한 사람이 누구인지에 대한 정보를 콘텐츠가 담고 있도록 돕습니다. 하지만 메타데이터는 완벽하지 않습니다. 업로드 및 다운로드 과정에서 제거되거나 손실될 수 있으며, 파일 형식 변환, 크기 조정 또는 스크린샷과 같은 변환 과정에서 손상될 수 있습니다.

출처를 더욱 강건하게 만들기 위해 우리는 다층적 접근 방식을 취하여 챗GPT(ChatGPT), 코덱스(Codex) 또는 오픈AI API를 통해 생성된 이미지부터 시작하여 구글 딥마인드의 신스아이디(SynthID)를 통해 워터마킹을 통합하고 있습니다. 신스아이디는 C2PA 메타데이터 기반 접근 방식을 보완하는 보이지 않는 워터마킹 레이어를 삽입합니다. 우리는 이를 위해 꽤 오랫동안 준비해 왔습니다. 소라에 가시적인 워터마크를, 음성 엔진(Voice Engine)에 오디오 워터마크를 사용해 왔으며, 배포를 통해 정확성과 안정성을 지속적으로 테스트하고 연구해 왔습니다.

이 두 가지 시스템은 서로를 강화합니다. C2PA는 콘텐츠가 상세한 맥락을 유지하도록 돕고, 신스아이디는 메타데이터가 살아남지 못했을 때 신호를 보존하는 데 도움을 줍니다. 워터마킹은 스크린샷과 같은 변환 과정을 거치면서도 더 내구성을 가질 수 있는 반면, 메타데이터는 워터마크 단독보다 더 많은 정보를 제공할 수 있습니다. 결합되었을 때, 이들은 어느 한쪽만 사용할 때보다 출처 추적을 더욱 탄력적으로 만들어 줍니다.

원문 보기
원문 보기 (영어)
May 19, 2026 Safety Advancing content provenance for a safer, more transparent AI ecosystem Helping people understand the origin of AI-generated content through Content Credentials, SynthID, and an early public verification tool. Try our tool Loading… Share People are using OpenAI’s tools everyday to create and edit images and audio in ways that make communication more expressive, useful, and accessible. As these tools become a part of how people build, imagine, and share, it’s important that people can understand and verify where the media comes from so they can interpret it with more confidence. Provenance signals can help by giving people context about where content came from, how it was created or edited, and whether it is what it claims to be. Today we’re strengthening our approach to content provenance with a multi-layered, ecosystem-driven model to building trust online. We are making our provenance signals easier for other tools and platforms to recognize through C2PA conformance, adding durable cross-platform SynthID watermarking to images through a partnership with Google, and sharing a preview of a tool the public can use to verify whether images came from OpenAI. Together these updates build on our earlier work ⁠ to support open standards, make OpenAI-generated content easier to identify, and collaborate across the industry to support a more trustworthy information ecosystem. Building the trust ecosystem through C2PA conformance OpenAI has been engaged in the development and adoption of provenance standards since 2024, when we began adding Content Credentials to images generated by DALL·E 3 ⁠ (opens in a new window) and later to ImageGen ⁠ (opens in a new window) and Sora ⁠ (opens in a new window) . We also joined the Steering Committee of the Coalition for Content Provenance and Authenticity (C2PA), the cross-industry group behind the open technical standard for content provenance. C2PA’s technical approach uses metadata and cryptographic signatures to help information about a piece of media securely travel with the content itself. This information includes context that helps journalists evaluating a source, platforms making integrity decisions, and people trying to understand what they are seeing online. We recently took the step of making OpenAI a C2PA Conforming Generator Product ⁠ (opens in a new window) . By becoming C2PA conformant, we are giving platforms a trusted way to read, preserve, and pass along the provenance information we attach to our content. This matters because provenance only works if it survives beyond the first platform where content is created, and conformance makes that possible. A multi-layered approach to provenance with Google SynthID for images C2PA metadata is an important foundation for provenance. It helps content carry information about where it came from, how it was created or edited, and who signed that information. But metadata is not foolproof. It can be stripped, lost through uploads and downloads, or broken by transformations like file format changes, resizing, or screenshots. To make provenance more resilient, we are taking a multi-layered approach and incorporating watermarking through Google DeepMind’s SynthID ⁠ (opens in a new window) , starting with images generated through ChatGPT ⁠ , Codex, or the OpenAI API. SynthID embeds an invisible watermarking layer that complements C2PA metadata-based approaches. We’ve been building toward this for some time. We have used visible watermarks ⁠ in Sora and an audio watermark ⁠ in Voice Engine, and have continued to test and research accuracy and reliability over time. through deployment. These two systems reinforce each other. C2PA helps content carry detailed context; SynthID helps preserve a signal when metadata does not survive. Watermarking can be more durable through transformations like screenshots, while metadata can provide more information than a watermark alone. Together, they make provenance more resilient than either layer would be on its own. Detection and a preview of our public verification tool Trusted metadata and watermarks that resist most modifications can make provenance signals more durable. But people need a way to detect these signals. We are now previewing a public verification tool ⁠ that will help people verify whether an uploaded image was generated on ChatGPT, the OpenAI API, or Codex, by checking if it contains provenance signals, including Content Credentials and SynthID. We believe provenance should be easier for people to verify and interpret, and that our tool can help people play a role in answering the question, “Was this generated with AI?” by integrating multiple signals. This builds on learnings from the initial research preview of our image detection classifier ⁠ in 2024 and enables people to reliably detect whether a SynthID watermark originating from OpenAI is present in the media, as well as surface C2PA metadata when it is found. No detection method is foolproof, so we take a cautious approach in cases when detection fails. If no metadata or watermark is detected, for example, the tool will not make a definitive conclusion about whether the image was generated with OpenAI tools since provenance signals can in some cases be stripped. At launch, the tool is limited to content generated by OpenAI. In the upcoming months, we aim to support cross-industry efforts to make verification possible across platforms. Over time, we also expect to support more types of content that people may encounter online. Looking ahead No single provenance technique is enough on its own. We believe a strong approach combines shared standards, durable watermarking signals, and public verification. By building on our long-standing support for Content Credentials, becoming conformant with C2PA, adopting SynthID, and previewing public verification tooling, we hope to contribute in the long run to a more interoperable provenance ecosystem. 2026 Author OpenAI Keep reading View all Helping ChatGPT better recognize context in sensitive conversations Safety May 14, 2026 Running Codex safely at OpenAI Security May 8, 2026 Introducing Trusted Contact in ChatGPT Safety May 7, 2026