유튜브가 크리에이터의 수동 공개에만 의존하던 기존 방식을 넘어, 시스템 내부 신호를 통해 사실적인 AI 생성 영상을 자동으로 감지하고 라벨을 부여하는 기능을 도입했습니다. 새로운 AI 라벨은 영상 설명창이 아닌 플레이어 하단이나 쇼츠 화면에 직접 표시되어 시인성을 크게 높였으며, 이 조치는 AI 딥페이크로 인한 혼란을 방지하고 플랫폼 내 콘텐츠 투명성을 강화한다는 점에서 매우 중요합니다.
구글 제미나이, 오픈AI DALL-E, 미드저니 등 주요 AI 모델에서 생성된 이미지의 보이는 워터마크와 보이지 않는 워터마크, 그리고 C2PA 메타데이터까지 한 번의 명령어로 모두 제거하는 오픈소스 도구가 공개되었습니다. 특히 디퓨전(Diffusion) 기반 재생성 및 알파 뒤집기(Alpha reversal) 기술을 사용하여 핵심적인 AI 생성 증명 시스템을 무력화합니다.
오픈AI는 자사 AI 모델로 생성된 이미지를 쉽게 식별하고 추적할 수 있도록 C2PA 메타데이터 표준 채택 및 구글과 협력한 보이지 않는 워터마크(SynthID) 두 가지 조치를 발표했습니다. 메타데이터와 워터마크는 서로의 단점을 보완하여, 악의적인 조작 및 딥페이크 문제에 강력하게 대응하는 출처 증명 체계를 구축합니다. 또한 사용자가 이미지의 AI 생성 여부를 직관적으로 검증할 수 있는 공개 도구도 함께 프리뷰 공개되었습니다.