오픈AI, 구글 '신스아이디(SynthID)' 워터마크 도입
오픈AI가 AI 생성 이미지의 출처를 투명하게 추적하기 위해 구글 딥마인드의 '신스아이디(SynthID)' 보이지 않는 워터마크 시스템을 도입했습니다. 이에 더해 C2PA 콘텐츠 출처 표준을 준수하여 메타데이터 기반의 출처 정보를 유지하며, 일반 사용자도 AI 생성 여부를 확인할 수 있는 공개 검증 도구를 선보였습니다. 이러한 다층적 접근은 메타데이터가 쉽게 소실되는 한계를 극복하고 디지털 생태계의 신뢰를 높이는 데 매우 중요한 역할을 합니다.
2026년 5월 19일 | 안전
더 안전하고 투명한 AI 생태계를 위한 콘텐츠 출처(Content Provenance) 발전 콘텐츠 자격 증명(Content Credentials), 신스아이디(SynthID), 그리고 초기 공개 검증 도구를 통해 사람들이 AI 생성 콘텐츠의 출처를 이해할 수 있도록 지원합니다.
도구 사용해보기 로딩 중... 공유하기
사람들은 매일 오픈AI(OpenAI)의 도구를 사용하여 소통을 더욱 표현력 있고 유용하며 접근하기 쉽게 만드는 방식으로 이미지와 오디오를 만들고 편집합니다. 이러한 도구들이 사람들이 구축하고, 상상하고, 공유하는 방식의 일부가 됨에 따라, 사람들이 미디어의 출처를 이해하고 확인하여 더 확신을 가지고 해석할 수 있도록 하는 것이 중요해졌습니다. 출처 신호는 콘텐츠가 어디서 왔는지, 어떻게 생성 또는 편집되었는지, 그리고 주장하는 바가 사실인지에 대한 맥락을 사람들에게 제공함으로써 도움을 줄 수 있습니다.
오늘 우리는 온라인 신뢰를 구축하기 위한 다층적이고 생태계 중심의 모델을 통해 콘텐츠 출처 접근 방식을 강화하고 있습니다. 우리는 C2PA(Coalition for Content Provenance and Authenticity) 준수를 통해 다른 도구와 플랫폼이 우리의 출처 신호를 더 쉽게 인식할 수 있도록 만들고, 구글과의 파트너십을 통해 이미지에 크로스 플랫폼 지속성을 갖춘 신스아이디(SynthID) 워터마크를 추가하며, 대중이 이미지가 오픈AI에서 왔는지 확인하는 데 사용할 수 있는 도구의 프리뷰를 공유하고 있습니다. 이러한 업데이트들은 개방형 표준을 지원하고, 오픈AI 생성 콘텐츠를 더 쉽게 식별하며, 업계 전반에 걸쳐 협력하여 더 신뢰할 수 있는 정보 생태계를 지원하는 우리의 이전 노력들을 바탕으로 합니다.
C2PA 준수를 통한 신뢰 생태계 구축 오픈AI는 2024년 달리(DALL·E) 3, 이후 이미지젠(ImageGen)과 소라(Sora)에서 생성된 이미지에 콘텐츠 자격 증명(Content Credentials)을 추가하기 시작하면서 출처 표준의 개발 및 채택에 참여해 왔습니다. 또한 콘텐츠 출처 및 인증을 위한 개방형 기술 표준의 배후에 있는 범산업 그룹인 C2PA(Coalition for Content Provenance and Authenticity)의 운영 위원회(Steering Committee)에 합류했습니다.
C2PA의 기술적 접근 방식은 메타데이터와 암호화 서명을 사용하여 미디어 조각에 대한 정보가 콘텐츠 자체와 함께 안전하게 전달되도록 돕습니다. 이 정보에는 출처를 평가하는 언론인, 무결성 결정을 내리는 플랫폼, 그리고 온라인에서 보고 있는 것을 이해하려는 사람들에게 도움이 되는 맥락이 포함됩니다. 최근 우리는 오픈AI를 C2PA 준수 생성기 제품(Conforming Generator Product)으로 만드는 단계를 밟았습니다. C2PA를 준수함으로써 우리는 플랫폼에 우리가 콘텐츠에 첨부한 출처 정보를 읽고 보존하며 전달할 수 있는 신뢰할 수 있는 방법을 제공하고 있습니다. 이는 출처가 콘텐츠가 생성된 최초의 플랫폼 이후에도 살아남아야만 작동하기 때문에 중요하며, 준수는 이를 가능하게 합니다.
이미지를 위한 구글 신스아이디(SynthID)를 활용한 다층적 출처 접근 방식 C2PA 메타데이터는 출처를 위한 중요한 기초입니다. 이는 콘텐츠가 어디서 왔는지, 어떻게 생성 또는 편집되었는지, 그리고 그 정보에 서명한 사람이 누구인지에 대한 정보를 콘텐츠가 담고 있도록 돕습니다. 하지만 메타데이터는 완벽하지 않습니다. 업로드 및 다운로드 과정에서 제거되거나 손실될 수 있으며, 파일 형식 변환, 크기 조정 또는 스크린샷과 같은 변환 과정에서 손상될 수 있습니다.
출처를 더욱 강건하게 만들기 위해 우리는 다층적 접근 방식을 취하여 챗GPT(ChatGPT), 코덱스(Codex) 또는 오픈AI API를 통해 생성된 이미지부터 시작하여 구글 딥마인드의 신스아이디(SynthID)를 통해 워터마킹을 통합하고 있습니다. 신스아이디는 C2PA 메타데이터 기반 접근 방식을 보완하는 보이지 않는 워터마킹 레이어를 삽입합니다. 우리는 이를 위해 꽤 오랫동안 준비해 왔습니다. 소라에 가시적인 워터마크를, 음성 엔진(Voice Engine)에 오디오 워터마크를 사용해 왔으며, 배포를 통해 정확성과 안정성을 지속적으로 테스트하고 연구해 왔습니다.
이 두 가지 시스템은 서로를 강화합니다. C2PA는 콘텐츠가 상세한 맥락을 유지하도록 돕고, 신스아이디는 메타데이터가 살아남지 못했을 때 신호를 보존하는 데 도움을 줍니다. 워터마킹은 스크린샷과 같은 변환 과정을 거치면서도 더 내구성을 가질 수 있는 반면, 메타데이터는 워터마크 단독보다 더 많은 정보를 제공할 수 있습니다. 결합되었을 때, 이들은 어느 한쪽만 사용할 때보다 출처 추적을 더욱 탄력적으로 만들어 줍니다.