404 Media • 1일 전

스포티파이의 AI 음악 문제, 네티즌이 나서서 적발한다

IMP

8/10

핵심 요약

스포티파이가 AI로 생성된 음악에 대한 명확한 라벨링이나 조치를 하지 않아 문제가 되고 있습니다. 실제 아티스트의 이름과 디자인을 도용하거나 인기를 악용해 수익을 창출하는 AI 음악 사기가 속출하고 있습니다. 이에 따라 일반 사용자들이 자발적으로 AI 음악을 추적·적발하는 데이터베이스와 탐지 도구를 구축하며 대응에 나선 상황입니다.

번역된 본문

라스베이거스 출신의 젊은 R&B 아티스트인 Slime Dot는 현재 스포티파이에서 월간 청취자 10만 명 이상을 보유하고 있다. 5월 GQ와의 인터뷰에서 슬라임 닷은 인스타그램에 드레이크(Drake)와 함께 찍은 사진을 공유한 후, 자신이 'AI 아티스트'라는 의혹을 직접 부인하며 "요즘 세상에는 진실이 중요하지 않다. 사람들은 자신이 완전히 이해하지 못하는 것을 설명하려 하고, 자신들이 믿고 싶은 것만 믿는다"고 말했다. 처음에 GQ는 이 인터뷰를 크게 다루며 'AI 루머를 반박했다'고 보도했다. 결국 GQ는 기사 말미에 Slime Dot가 AI 아바타라는 사실을 인정하는 주석을 추가했지만, "음악에 담긴 재능은 부정할 수 없다"고 덧붙였다.

Suno와 Udio 같은 AI 음악 생성기가 등장해 인터넷을 AI 음악으로 뒤덮는 것이 아주 쉬워진 이후, 많은 사용자와 비평가들이 간절히 요구했던 조치를 스포티파이가 취했다면 이러한 혼란은 피할 수 있었을 것이다. 스포티파이는 자사 플랫폼의 Slime Dot 및 기타 AI 생성 음악에 AI 음악 표시를 할 수 있었던 것이다. 유튜브 등 다른 플랫폼은 이미 이러한 조치를 취하고 있다. 스포티파이가 이를 하지 않기 때문에, 사용자들은 '영혼 없는 음악(SoullessMusic.com)'이라는 데이터베이스를 방문할 수밖에 없다. 이곳은 '스포티파이에 숨어있는 AI 아티스트를 위한 데이터베이스. 밴드도, 스튜디오도, 영혼도 없다. 오직 기계와 멜로디뿐'이라고 소개하고 있다. 이 사이트에서는 Slime Dot의 트랙 3곡을 분석하고 짧은 기간에 너무 많은 곡을 발매했다는 사실을 근거로 Slime Dot를 '거의 확실한 AI'로 분류했다. 또는 사용자들이 '슬롭 트래커(SlopTracker)'에 접속하여 파일을 업로드하거나 스포티파이 트랙 링크를 복사해 붙여넣으면, 이 도구가 곡이 AI로 생성되었는지 여부를 일정 확률로 알려준다. SlopTracker는 Slime Dot의 트랙 'Fully'가 Suno에 의해 생성되었을 확률이 95%라고 분석했다.

SoullessMusic을 만든 그레이엄 풀턴(Graeme Fulton)은 나에게 "저는 무엇이 AI이고 무엇이 아닌지 몰랐습니다. 그런데 인스타그램 릴스를 보다가 어떤 아티스트가 갑자기 나타나 자신의 노래를 그냥 베껴서 불행해하는 수많은 아티스트들을 보았습니다. 그들(AI 아티스트)이 아티스트의 외모와 모습을 그대로 복사하는 등 아티스트의 것을 훔치는 수많은 사례가 있습니다"라고 말했다. 작년에 나는 풀턴이 말하는 아주 심각한 사례에 대해 기사를 쓴 적이 있다. 한 사기꾼이 스포티파이를 이용해 이미 고인이 된 진짜 뮤지션의 이름으로 AI 생성 음악을 발매했는데, 이는 음원 스트리밍 수익을 통해 그의 인기를 이용해 돈을 빼먹으려는 시도로 보였다. 이 기사를 게재한 후 나는 자신들에게도 똑같은 일이 일어났다고 말하는 여러 생존 아티스트들의 연락을 받았다. 4월에는 덴마크 언론에서 덴마크 재즈 뮤지션과 관련된 유사한 사례를 보도했다. 다른 독자는 최근 매주 몇 시간 분량의 이란 재즈 음악을 발매하는 인기 스포티파이 아티스트에 대해 알려주었다. 작년 12월에 나타난 '카자르 재즈(Qajar Jazz)'라는 채널은 월간 청취자 29,579명을 확보했으며, 미국과 이란의 전쟁이 시작된 후 더 큰 인기를 얻었다. 또한 유튜브 영상 설명 및 댓글에서 인내심과 문화 보존에 대해 모호하게 암시했다. 스포티파이와 달리 유튜브의 카자르 재즈 영상은 소확대글에서 AI 생성 콘텐츠로 표시되어 있지만, 채널 본인이 직접 태그를 달았는지 유튜브가 표시한 것인지는 불분명하다. SoullessMusic과 SlopTracker 모두 이를 AI가 생성한 것으로 탐지해냈다. 카자르 재즈 측은 코멘트 요청에 응답하지 않았다. 카자르 재즈 영상의 유튜브 댓글을 보면 사람들이 이 음악을 진짜 사람이 만든 것으로 생각하고 있음을 알 수 있다.

SoullessMusic은 스포티파이의 AI 생성 음악 데이터베이스를 구축하는 것 외에도, 마찬가지로 AI 음악에 속았다고 주장하는 사람들의 소셜 미디어 게시물도 수집하고 있다. 일부 게시물은 노력 없이 수천 곡을 만들어낼 수 있는 알고리즘과 경쟁해야 하는 현실을 한탄하는 뮤지션들의 글이며, 또 다른 게시물은 자신의 음악을 AI 아티스트에게 직접 표절당한 아티스트들의 글이다. 풀턴은 자신이 깃허브(GitHub)에서 오픈소스 AI 음악 탐지 도구를 찾아보기 시작했다고 밝혔다.

원문 보기

원문 보기 (영어)

Slime Dot, a young R&B artist from Las Vegas, currently has over 100,000 monthly listeners on Spotify. In an interview with GQ in May, after sharing an image of herself posing with Drake on Instagram, Slime Dot directly denied accusations that she was an “AI artist,” saying “The truth doesn’t matter these days. People are always gonna try to explain something they don’t fully understand and believe what they want.” GQ originally credulously published the interview and said it was “debunking the AI rumors.” Eventually, GQ added a note to the end of the article conceding Slime Dot was an AI avatar, but said the “talent behind the music remains undeniable.” This confusion could have been avoided if Spotify had done what many of its users and critics have been begging it to do since AI music generators like Suno and Udio made it trivial to flood the internet with AI music. Spotify could flag Slime Dot and other AI-generated music on its platform as such. Other platforms, like YouTube, already do this. Since Spotify doesn’t do that, users can visit SoullessMusic.com , a database for “AI artists hiding on Spotify. No bands, no studios, no soul, just machines and melody.” There, Slime Dot is listed as “almost certainly AI” based on an analysis of three of the tracks and the fact that Slime Dot released such a large number of tracks in a short period of time. Alternatively, users could go to SlopTracker , where they can upload files or copy/paste links to Spotify tracks to run them through a tool which will tell them, with varying degrees of confidence, whether a song was AI-generated or not. SlopTracker found that Slime Dot’s track “ Fully ” was 95 percent likely to be AI generated by Suno. “I didn't know what's AI and what's not,” Graeme Fulton, who created SoullessMusic, told me. “And then I'm on Instagram Reels and I see loads of artists unhappy saying some artist has popped up with their song and just copied it. And there's loads of different cases where they [AI artists] would copy an artist's look and appearance […] sort of just stealing from artists.” Last year, I wrote a story about an exceptionally bad example of what Fulton is talking about. A scammer used Spotify to publish AI-generated music under the name of a real, dead musician , seemingly in an attempt to syphon money from his popularity via streams. After I published that story I heard from several (living) artists who said the same thing happened to them. A similar case involving a Danish jazz musician was covered by Danish publications in April. Another reader recently told me about a popular Spotify artist that was publishing hours of Iranian jazz every week. The channel, Qajar Jazz , which popped up in December of last year, has 29,579 monthly listeners, gained more popularity after the start of the U.S. war with Iran and the channel making vague allusions to resilience and preserving culture in video descriptions and comments on YouTube. Unlike Spotify, Qajar Jazz videos on YouTube are labeled as being AI-generated in the fine print, though it’s unclear if the channel tagged itself as such or if YouTube did. Both SoullessMusic and SlopTracker detect it as being AI generated. Qajar Jazz did not respond to a request for comment. Many of the YouTube comments on Qajar Jazz videos indicate that people think the music is made by real people. In addition to creating a database of AI generated music on Spotify, SoullessMusic also collects social media posts from people who say they were similarly tricked by AI generated music . Some posts are from musicians who lament the fact that they are now competing with algorithms that can produce thousands of tracks with no effort, and others are from artists whose music was directly ripped off by AI artists . View this post on Instagram A post shared by 𝓘𝓼𝓪𝓫𝓮𝓵 (@isabel_music_official) View this post on Instagram A post shared by UMAW (@weareumaw) Fulton said he started looking around on GitHub for open source AI music detection tools, and ended up building a new, open source detector that relies on open source models called SONICS , the lofcz vocoder fakeprint detector , and other open data sets. SoullessMusic also scans a track’s metadata for any tags that might tie it back to a specific AI music generator, and Fulton says he also has a script that scans Wikipedia for existing entries on an artist. Users can submit tracks from Spotify to the site they suspect are AI generated, and Fulton reviews them manually before adding them to the database. Despite all of this, he admits the system is not perfect. Both Soulless Music and SlopTracker use AI and other automated tools to detect AI music. As we’ve written previously, using AI detectors to detect AI content is an inherently flawed process that can lead to false positives . When I asked him how he handles cases of false positives, Fulton said “it's not ideal when that happens, but it's going to happen because it's still quite tricky to check what's AI and what’s not.” Spotify’s lack of transparency and unwillingness to label AI-generated music makes it impossible to track how much money its making on the platform. Last year, the company announced that it would it would AI disclosures on AI generated music, but I haven’t seen it on any of the dozens of tracks I reviewed for this story. Udio and Sudo both include inaudible digital watermarking in their generation, which in theory could make it easy for Spotify to tag these tracks. Spotify did not respond to a request for comment. Soulless music attempts to quantify that number based on publicly available streaming data. The small number of AI artists tracked on SoullessMusic generate an estimated $5.7 million a year, with the most popular AI artist, mikeeysmind, generating $1.5 million annually alone. In April, Deezer, a Spotify competitor that attempts to tag all AI-generated music on its platform, said 44 percent of all new music uploaded to its platform is now AI generated . SlopTracker, which attempts to track AI generated music on Spotify that is featured on official Spotify-curated playlists, that those artists are “draining” $0.1188 per second from real artists who could be making the music instead. About the author Emanuel Maiberg is interested in little known communities and processes that shape technology, troublemakers, and petty beefs. Email him at emanuel@404media.co More from Emanuel Maiberg