앤스로픽이 클로드가 생성한 텍스트에 삽입된 디지털 워터마크를 확인할 수 있는 검증 API를 출시했습니다. EU AI법에 따라 2025년 8월 2일 이후 출시되는 모든 클로드 모델은 출력 텍스트에 보이지 않는 워터마크를 포함해야 합니다. 규제기관, 언론, 팩트체커, 연구기관, 기업 등 승인된 조직은 접근을 신청할 수 있으며, 이 시스템은 구글 SynthID 기반으로 일부 편집 후에도 감지가 가능하다는 장점이 있습니다.
리버스 엔지니어링 결과, 마이크로소프트 페인트와 사진 앱이 이미지를 로컬에서 생성하더라도 프롬프트 검열을 위해 서버로 전송하고, 서버가 발급한 GUID를 보이지 않는 워터마크로 픽셀에 삽입하는 것으로 밝혀졌습니다. 사용자가 설정할 수 있는 '보이는 워터마크' 옵션은 이 숨겨진 워터마크와 무관하게 동작하며, Copilot+ PC에서도 생성은 로컬이지만 검열은 원격으로 이루어집니다. AI 생성 이미지 저장은 C2PA 메타데이터가 유지되는 PNG, JPEG, GIF, .paint 형식으로만 가능합니다.
Anthropic이 EU AI법 준수를 위해 Claude 생성 텍스트에 보이지 않는 워터마크(SynthID)를 삽입하겠다고 발표한 지 불과 4시간 만에 개발자 기욤 메이어가 워터마크 제거 코드를 공개해 큰 인기를 얻고 있습니다. 이 사건은 AI 콘텐츠 투명성 규제와 기술적 우회 사이의 공방가 현실화되었음을 보여줍니다.
안스로픽이 EU 규제 대응 차원에서 클로드의 텍스트에 통계적 패턴 기반 워터마크를 삽입했으나, 블로거 존 그루버 등은 단어 선택이 의미가 아닌 워터마크 키에 따라 이뤄져 텍스트 품질이 떨어진다고 비판합니다. 법률 업계는 대부분 큰 문제가 없다고 보지만, AI 사용 금지 계약이나 수수료 협상에서 AI 기여도가 검증 가능해지는 상황은 주의가 필요합니다.
AI가 생성한 텍스트에 숨겨진 워터마크는 글자의 픽셀이나 메타데이터가 아닌, 단어를 선택하는 확률적 '주사위 굴리기' 과정에 비밀 키를 적용하여 작동합니다. 이를 통해 구글 제미나이(Gemini)나 앤스로픽(Anthropic)의 클로드(Claude) 모델은 외형상 문장을 자연스럽게 유지하면서도, 오직 비밀 키를 소유한 자만이 패턴을 통계적으로 감지해낼 수 있는 보이지 않는 표식을 남깁니다. 이는 AI 창작물을 식별하고 표절 및 오용을 방지하는 데 핵심적인 기술적 기반으로 평가받습니다.
오는 2026년부터 시행되는 EU AI 법안에 따라 AI 서비스 제공자들은 생성물에 워터마크를 삽입해야 할 의무를 집니다. 하지만 텍스트는 이미지와 달리 소량의 노이즈도 허용하지 않는 극도로 압축된 매체이기 때문에 완벽한 워터마크 적용은 기술적으로 매우 까다롭습니다. 구글의 SynthID 등 부분적인 해결책들이 등장하고 있으나, 모델 성능 저하와 탐지 비용 등의 트레이드오프를 AI 기업들이 어떻게 극복할지가 핵심 관전 포인트입니다.
안스로픽(Anthropic)은 EU AI 법안을 준수하기 위해 2026년 8월부터 모든 신규 클로드 모델의 텍스트 및 이미지 출력물에 기계 판독이 가능한 워터마크와 출처 메타데이터를 전 세계적으로 적용할 예정입니다. 이는 AI가 생성한 콘텐츠를 투명하게 식별하고 위변조를 방지하기 위한 조치이며, 향후 개발자와 일반 사용자가 이를 검증할 수 있는 도구도 제공될 계획입니다.
Anthropic은 EU AI 법안의 투명성 의무를 준수하기 위해 클로드가 생성한 모든 텍스트에 워터마크를, 이미지 등 파일에는 출처 메타데이터를 포함하도록 설정할 예정입니다. 이러한 기계 판독용 표기는 2026년 8월 이후 출시되는 신규 모델부터 전 세계 모든 제품에 기본 적용되며, 이는 AI 생성물의 출처를 명확히하여 투명성을 높이는 중요한 정책적 변화입니다.
최근 온라인에서 확산된 미 상원의원 미치 맥코널의 병원 사진이 AI로 생성된 딥페이크로 판명되었습니다. 구글의 AI 워터마크 기술인 SynthID(신스ID)를 통해 해당 사진이 조작본임이 신속하게 밝혀졌습니다. 이는 주요 AI 기업들이 적극적으로 참여하는 워터마크 기술이 안티 딥페이크 기술로서 실질적인 성과를 거둔 중요한 사례입니다.
오픈AI가 AI 생성 이미지의 출처를 투명하게 추적하기 위해 구글 딥마인드의 '신스아이디(SynthID)' 보이지 않는 워터마크 시스템을 도입했습니다. 이에 더해 C2PA 콘텐츠 출처 표준을 준수하여 메타데이터 기반의 출처 정보를 유지하며, 일반 사용자도 AI 생성 여부를 확인할 수 있는 공개 검증 도구를 선보였습니다. 이러한 다층적 접근은 메타데이터가 쉽게 소실되는 한계를 극복하고 디지털 생태계의 신뢰를 높이는 데 매우 중요한 역할을 합니다.
오픈AI는 자사 AI 모델로 생성된 이미지를 쉽게 식별하고 추적할 수 있도록 C2PA 메타데이터 표준 채택 및 구글과 협력한 보이지 않는 워터마크(SynthID) 두 가지 조치를 발표했습니다. 메타데이터와 워터마크는 서로의 단점을 보완하여, 악의적인 조작 및 딥페이크 문제에 강력하게 대응하는 출처 증명 체계를 구축합니다. 또한 사용자가 이미지의 AI 생성 여부를 직관적으로 검증할 수 있는 공개 도구도 함께 프리뷰 공개되었습니다.
최근 AI 생성 이미지에서 관찰되는 기묘하고 흐릿한 픽셀 형태의 질감이 단순한 오류가 아니라 OpenAI의 워터마크 실험일 가능성이 제기되었습니다. 작성자는 해당 질감들이 무작위 노이즈와 달리 구조적인 패턴을 띠고 있다고 분석했습니다. 이는 향후 AI 생성 콘텐츠의 출처를 추적하고 검증하는 핵심 기술로 작용할 수 있어 주목됩니다.
사용자가 아이들과 놀기 위해 의미 없는 단어를 입력해 GPT Image 2로 무작위 이미지를 생성했는데, 그 결과물 속에 구글의 'Gemini' 및 'Nano Banana' 워터마크가 함께 그려진 것을 발견했습니다. 이는 타사 AI 모델의 결과물이 학습 데이터로 사용되었을 가능성을 시사하며, 저작권 및 데이터 오염 측면에서 중요한 이슈로 평가됩니다.