EU 신규 법에 대응해 AI 플랫폼들이 생성 콘텐츠 워터마킹을 도입하고 있으나, Anthropic이 채택 예정인 Google의 SynthID-Text 기술이 모델의 단어 선택뿐 아니라 도구 호출과 안전 가드레일 준수 여부에도 영향을 준다는 연구 결과가 나왔다. 특히 프롬프트 인젝션 같은 악의적 공격 상황에서는 평소 거부하던 유해 요청에 응답할 확률이 높아져, 워터마킹 적용 시 모델과 에이전트의 안전 행동을 철저히 테스트할 필요가 강조된다.
Anthropic이 EU AI법 준수를 위해 Claude 생성 텍스트에 보이지 않는 워터마크(SynthID)를 삽입하겠다고 발표한 지 불과 4시간 만에 개발자 기욤 메이어가 워터마크 제거 코드를 공개해 큰 인기를 얻고 있습니다. 이 사건은 AI 콘텐츠 투명성 규제와 기술적 우회 사이의 공방가 현실화되었음을 보여줍니다.
안스로픽이 EU 규제 대응 차원에서 클로드의 텍스트에 통계적 패턴 기반 워터마크를 삽입했으나, 블로거 존 그루버 등은 단어 선택이 의미가 아닌 워터마크 키에 따라 이뤄져 텍스트 품질이 떨어진다고 비판합니다. 법률 업계는 대부분 큰 문제가 없다고 보지만, AI 사용 금지 계약이나 수수료 협상에서 AI 기여도가 검증 가능해지는 상황은 주의가 필요합니다.
오는 2026년부터 시행되는 EU AI 법안에 따라 AI 서비스 제공자들은 생성물에 워터마크를 삽입해야 할 의무를 집니다. 하지만 텍스트는 이미지와 달리 소량의 노이즈도 허용하지 않는 극도로 압축된 매체이기 때문에 완벽한 워터마크 적용은 기술적으로 매우 까다롭습니다. 구글의 SynthID 등 부분적인 해결책들이 등장하고 있으나, 모델 성능 저하와 탐지 비용 등의 트레이드오프를 AI 기업들이 어떻게 극복할지가 핵심 관전 포인트입니다.
애플은 경쟁사와 달리 사진의 진정성을 훼손하지 않는 범위 내에서 제한적으로 생성형 AI를 사진 앱에 도입합니다. 새로운 '확장(Extend)' 및 '공간 재구성(Spatial Reframe)' 기능은 배경의 가짜 픽셀을 생성해 구도 문제를 해결하지만, 주요 피사체의 얼굴이나 무한 확장 등은 제한합니다. 또한 AI 편집 흔적을 남기기 위해 구글의 SynthID 기반 보이지 않는 워터마크를 도입하는 등 사진의 진실성을 지키는 데 집중합니다.
오픈AI는 자사 AI 모델로 생성된 이미지를 쉽게 식별하고 추적할 수 있도록 C2PA 메타데이터 표준 채택 및 구글과 협력한 보이지 않는 워터마크(SynthID) 두 가지 조치를 발표했습니다. 메타데이터와 워터마크는 서로의 단점을 보완하여, 악의적인 조작 및 딥페이크 문제에 강력하게 대응하는 출처 증명 체계를 구축합니다. 또한 사용자가 이미지의 AI 생성 여부를 직관적으로 검증할 수 있는 공개 도구도 함께 프리뷰 공개되었습니다.