r/singularity • 99일 전

디저 "신규 음원 44%가 AI 생성, 대부분 사기 목적"

IMP

7/10

핵심 요약

글로벌 음악 스트리밍 서비스 디저(Deezer)에 따르면 최근 업로드되는 신규 음원의 무려 44%가 AI로 생성된 곡이며, 하루에만 7만 5천 곡이 쏟아져 들어오고 있습니다. 이들 음원의 대부분은 조회수 조작을 통한 부당 이득을 취하는 사기 목적이며, 디저는 AI 음원을 자동 탐지해 수익 창출을 차단하는 기술을 선제적으로 도입했습니다. 사용자들은 AI 음원과 사람이 만든 음원을 97%의 확률로 구분하지 못하는 것으로 나타나, 업계 전반에 대대적인 저작권 및 수익 분배 문제가 야기되고 있습니다.

번역된 본문

스포티파이(Spotify)나 유튜브 뮤직(YouTube Music)과 같은 음악 스트리밍 서비스는 개별 앨범을 구매하는 것보다 훨씬 편리해서 사람들이 음악을 듣는 주된 방법이 되었습니다. 하지만 이러한 편리함은 역설적으로 AI가 생성한 트랙이 사용자의 플레이리스트에 쉽게 스며들 수 있는 환경을 만들었습니다. 대부분의 스트리밍 플랫폼은 AI 음악에 특별히 라벨을 붙이는 등의 조치를 취하지 않지만, 프랑스의 음악 스트리밍 서비스 디저(Deezer)는 이러한 콘텐츠를 식별하기 위한 기술을 개발해 왔습니다. 디저의 최근 업데이트에 따르면, 현재 업로드되는 음악 중 AI가 생성한 비율이 절반에 육박하고 있으며, 이러한 음원을 듣는 청취자의 대부분 역시 사람이 아닌 AI인 것으로 나타났습니다.

AI 생성 음악은 지난 몇 년간 급격히 증가했지만, AI 생태계의 다른 분야에 비해 상대적으로 덜 주목받아 왔습니다. 이는 부분적으로 AI 음악이 사용자의 눈을 피해 은밀히 스며들 수 있기 때문입니다. 적절한 맥락과 프롬프트가 주어지면, AI 트랙은 사람이 만든 전형적이고 과도하게 프로듀싱된 음악처럼 들릴 수 있습니다. 디저에 따르면, 일반 사용자들은 AI 음악과 실제 사람이 만든 음악을 구별하는 데 큰 어려움을 겪고 있습니다. 디저 설문조사에 참여한 청취자들은 세 곡의 노래를 들었는데, 그중 두 곡은 AI가 만든 곡이었습니다. 놀랍게도 응답자의 97%가 AI 노래와 사람이 만든 노래의 차이를 전혀 구분하지 못했습니다.

디저는 AI 업로드를 탐지하는 기술을 개발했으며, 이러한 콘텐츠에 명시적으로 라벨을 붙이는 몇 안 되는 스트리밍 서비스 중 하나입니다. 오디오 생성 모델이 급증하면서 디저에 업로드되는 AI 음악의 비율은 놀라운 44%에 달했으며, 이는 매일 디저에 75,000개의 새로운 AI 트랙이 업로드되고 있음을 의미합니다. 디저는 이 기술을 제3자에게 라이선스 제공하고 있으며, 오탐지율(잘못 긍정하는 비율)이 0.01% 미만이라고 주장합니다. 그럼에도 불구하고 청취자들은 디저 플랫폼에서 자연스럽게 AI 음악을 접할 일이 거의 없습니다. 왜냐하면 플랫폼이 AI로 플래그가 지정된 트랙을 추천이나 에디토리얼 플레이리스트에 포함시키지 않기 때문입니다. 그 결과, AI 음악 스트리밍은 디저 전체 사용량의 단 1~3% 수준에 머무르고 있습니다.

디저는 이러한 AI 음악이 대량 업로드되는 주된 목적이 '사기'라고 밝혔습니다. 디저는 사람이 직접 음악을 들었을 때만 스트리밍에 대한 정산금을 지급하는 정책을 취하고 있으므로, 현재 AI 음악 스트리밍의 약 85%에 대해 수익 창출을 차단하고 있습니다. 알렉시스 란테르니에(Alexis Lanternier) 디저 CEO는 "1년이 넘는 기간 동안 우리가 구축한 기술과 선제적인 조치 덕분에, 스트리밍 분야에서 AI 관련 사기와 부당 수익 창출을 최소화하는 것이 가능하다는 것을 입증했다"고 말했습니다.

AI 음악의 성장은 전체 AI 산업의 발전과 함께 계속해서 가속화될 전망입니다. 구글의 리리아(Lyria) 3와 같은 모델은 더 저렴해지고 대중적으로 널리 보급되고 있습니다. 구글은 실제로 불과 몇 달 전만 해도 30초짜리 짧은 트랙만 생성할 수 있었던 것과 달리, 현재는 제미나이(Gemini) 사용자들이 완전한 길이의 노래를 생성할 수 있도록 허용하고 있습니다. 수노(Suno)와 우디오(Udio) 같은 서비스 역시 단 몇 초 만에 방송용으로 즉시 사용할 수 있는 트랙을 만들 수 있다는 점을 내세우고 있습니다. 다행히 이러한 주류 플랫폼들은 노래가 AI로 만들어졌음을 표시하기 위해 구글의 신스아이디(SynthID) 같은 워터마크를 내장하고 있습니다. 하지만 문제는 오디오 파일에서 이러한 워터마크를 제거하는 것이 너무나 쉬워지고 있으며, 애초에 워터마크가 없는 맞춤형 모델을 사용해 음악을 생성하는 것도 간단해지고 있다는 점입니다. AI 추론 비용이 저렴해짐에 따라, 형편없는 AI 음악 쓰레기(AI slop)를 만들어내는 비용 역시 덩달아 싸지고 있습니다.

원문 보기

원문 보기 (영어)

Text settings Story text Size Small Standard Large Width * Standard Wide Links Standard Orange * Subscribers only Learn more Minimize to nav Music streaming services like Spotify and YouTube Music have become the primary way people listen to music, which can be a lot more convenient than buying individual albums. However, this also makes it easier for AI-created tracks to worm their way into your playlists . Most streamers don’t go out of their way to label AI music, but Deezer has worked to develop technology to identify that content. In a recent update, the company says AI music is approaching half of all new uploads, and most of the supposed listeners of those streams are AI themselves. AI-generated music has taken off in the last few years, but it doesn’t get as much attention as other parts of the AI ecosystem. That’s due, in part, to the fact that AI music can fly under the radar. With the right context and prompting, an AI track can sound like generic, over-produced music created by humans. According to Deezer, its users have a hard time differentiating AI tunes from the real deal. Listeners taking a Deezer survey listened to three songs, two of which were AI. A whopping 97 percent were unable to tell the difference between the AI songs and the one made by a human, the company reports. Deezer says it has developed technology to detect AI uploads, and it’s one of the few streamers to explicitly label such content. As generative audio models have proliferated, the rate of AI uploads to Deezer has reached a staggering 44 percent—that’s 75,000 new AI tracks on Deezer every single day. Deezer licenses this technology to third parties, which it claims has a false positive rate of less than 0.01 percent. Still, listeners shouldn’t encounter AI music organically on Deezer because the site won’t include AI-flagged tracks in suggestions or editorial playlists. As a result, AI music streams account for a small share of Deezer usage, hovering around 1–3 percent. The company says the primary purpose of uploading all this AI music is fraudulent. Deezer only pays for streams when a person listens to them, so it’s demonetizing about 85 percent of AI music streams. “Thanks to our technology and the proactive measures we put in place more than a year ago, we have shown that it’s possible to reduce AI-related fraud and payment dilution in streaming to a minimum,” said Deezer CEO Alexis Lanternier. The AI goes to 11 The growth of AI music is likely to continue accelerating with the rest of the AI industry. Models like Google’s Lyria 3 have become cheaper and more widely available. Google actually lets Gemini users generate full-length songs now, up from 30-second snippet tracks just a few months ago. Suno and Udio also promote their ability to create broadcast-ready tracks in seconds. However, these mainstream options embed watermarks, like Google’s SynthID, to flag the songs as AI. The problem is how easy it is becoming to strip those watermarks out of the audio and generate music using custom models that don’t have them in the first place. As AI inference becomes cheaper, so, too, does the creation of musical AI slop. Ryan Whitwam Senior Technology Reporter Ryan Whitwam Senior Technology Reporter Ryan Whitwam is a senior technology reporter at Ars Technica, covering the ways Google, AI, and mobile technology continue to change the world. Over his 20-year career, he's written for Android Police, ExtremeTech, Wirecutter, NY Times, and more. He has reviewed more phones than most people will ever own. You can follow him on Bluesky , where you will see photos of his dozens of mechanical keyboards. 143 Comments