EU AI법의 딥페이크 규정, 소매업계에 발목 잡히다
아마존, H&M 등이 속한 유럽 소매업협회는 소파 등 기만 목적이 아닌 AI 생성 광고 이미지를 EU AI법의 딥페이크 표시 의무에서 제외해 달라고 요구하고 있습니다. 의류 플랫폼 잘란도(Zalando)의 마케팅 콘텐츠 90%가 이미 AI로 제작되는 등 업계에서 AI 활용이 폭발적으로 증가하고 있어, 현재의 모호한 딥페이크 규정이 실무에 큰 혼란을 주고 있습니다. 범죄와 연관된 딥페이크 개념에 일반 제품 광고 이미지까지 포함되는 현행법의 명확한 경계 설정이 필요한 상황입니다.
EU는 '딥페이크(Deepfake)'가 실제로 무엇인지 제대로 알지 못하는 것 같으며, 이는 소매업계에 큰 문제가 되고 있습니다.
유럽 무역 협회인 유로커머스(Eurocommerce)는 EU AI법의 투명성 요건에서 AI가 생성한 광고를 면제해 달라고 촉구하고 있습니다. 로이터통신이 입수한 서한에 따르면, 아마존, H&M, 인디텍스(Inditex), 이케아(Ikea) 등을 회원사로 두고 있는 이 협회는 소비자를 속이려는 목적이 아닌 광고 이미지에 대해서는 예외를 적용해야 한다고 주장하고 있습니다.
오는 8월 2일에 시행되는 EU 법률은 '딥페이크'에 해당하는 AI 생성 또는 AI 변조 콘텐츠에 명확한 라벨 표시를 의무화하고 있습니다.
사용 예시: AI가 딥페이크 콘텐츠(이미지, 오디오, 비디오)나 공개된 텍스트의 제작에 관여했거나, 맞춤형 텍스트 라벨 또는 인터랙티브한 추가 레이어를 사용하는 경우. 예: "음성 생성:"이라는 텍스트 라벨과 함께 기본 아이콘이 표시된 딥페이크 비디오
완전한 AI 생성(AI Generated): 프롬프트 입력을 제외한 인간의 창의적 입력이나 편집 통제 없이 전체 딥페이크 콘텐츠나 텍스트가 완전히 AI로만 제작된 경우. 예: 정치인이나 가상의 이벤트를 다루는 완전한 AI 생성 딥페이크 비디오, AI가 작곡한 음악이나 예술 작품, AI가 생성한 뉴스 요약
부분적 AI 수정: 기존에 인간이 만든 콘텐츠를 AI를 사용해 부분적으로 수정하여 딥페이크나 대중적 관심사에 대한 텍스트가 된 경우. 예: 실제 사진 속 얼굴을 정치인의 얼굴로 AI 교체; 빈 아파트의 실제 사진을 AI로 가구를 채워 꾸민 경우
크리스텔 델베르게(Christel Delberghe) 총괄 이사는 소파를 전시하기 위해 사용된 AI 생성 거실 이미지가 이 딥페이크 정의에 포함되어서는 안 된다고 주장합니다. 그는 이러한 콘텐츠에 라벨 표시를 의무화하는 것은 광고의 막대한 부분에 영향을 미치며, 소비자를 위한 투명성 규정의 가치를 오히려 희석시킬 것이라고 덧붙였습니다. 유럽연합 집행위원회는 아직 이 요구에 대한 공식적인 입장을 내놓지 않았습니다.
소파 이미지는 딥페이크가 아닙니다
의류 플랫폼 잘란도(Zalando)에 따르면 현재 플랫폼의 마케팅 콘텐츠 중 90%가 AI로 생성된 것이라고 합니다. 잘란도의 콘텐츠 솔루션 부사장인 마티아스 하제(Matthias Haase)는 다음과 같이 말했습니다. "생성형 AI 덕분에 우리는 '기획' 중심에서 '대응'하는 마인드셋으로 전환할 수 있었습니다. 과거 몇 주가 걸리던 작업을 단 며칠로 줄였으며, 올해 목표는 트렌드를 포착해서 실제로 서비스에 적용하기까지 24시간 이내로 단축하는 것입니다." H&M과 자라(Zara) 역시 AI로 생성한 모델의 복제 이미지를 사용하고 있습니다.
이 사례에서 EU의 '딥페이크'라는 용어 사용은 매우 의문스럽습니다. 이 단어는 본래 동의 없는 불법 합성 음란물(딥페이크)에서 유래했으며, 주로 사기나 기타 범죄 활동과 연관되어 있습니다. 소파 같은 제품을 보여주기 위해 AI로 생성한 상품 이미지가 동일한 법적 정의에 포함된다는 사실은 현행 규정의 경계가 얼마나 모호한지를 여실히 보여줍니다.