메뉴
BL
404 Media • 11시간 전

살인 재정에서 재생된 AI 연인 노래, 최악의 장면

IMP
4/10
핵심 요약

아내 살인 혐의로 재판 중인 전 아메리칸 아이돌 참가자 케일럽 플린이 AI(ElevenLabs)로 애인에게 보낸 러브송이 법정에서 증거로 재생됐습니다. 수사관은 GrayKey(Cellebrite도 시도)로 아이폰을 해제해 파일 시스템 전체를 추출, AI 음원과 가사, 메시지, 위치·수면·심박 데이터까지 확보했습니다. 법정 전체가 웃음을 참아야 했다는 이 장면은 AI 생성 콘텐츠가 형사 증거로 실제 활용되는 시대를 보여줍니다.

번역된 본문

우리는 이 글을 쓸지 오랫동안 고민했다. 케일럽 플린이라는 남성이 아내를 살해한 혐의로 재판받는 살인 사건의 영상이기 때문이다. 범죄 자체는 매우 심각하고 슬프지만, 아래 영상은 우리 사회가 어디에 와 있는지를 보여준다. 이 재판은 전국적 관심을 받으며 생중계되고 있다. 목요일 심리가 막바지에 이르자 검찰이 플린(전 아메리칸 아이돌 참가자)이 애인을 위해 만든 AI 러브송 두 버전을 재생했다. 수사관들은 포렌식 도구 GrayKey로 그의 휴대폰을 해제한 뒤, 플린의 메모 앱에서 AI 노래 파일과 가사를 발견했다.

법정 포렌식 수사관 조지프 빌헬름은 증언에서 “케일럽의 아이폰에서 AI로 생성된 것으로 보이는 오디오 파일을 발견했으며, 그의 [애인]과의 관계와 관련이 있다”고 말했다. “두 곡은 서로 다른 조성입니다. 하나는 말이 안 될 수 있지만 밝고 경쾌한 슬픈 노래이고, 다른 하나는 아주 슬픈 노래입니다. 하나는 단음계, 하나는 장음계 같은데, 저는 음악 전문가가 아니라서요.”

“공표 허가를 요청합니다, 재판장님”이라고 검사가 말하자, 판사는 “허가합니다”라고 답했다. 이어지는 장면은 마치 ‘아이 렁크 유 슈드 리브’ 스케치나 네이선 필더의 코미디에서 나온 것 같았다. 하지만 이것은 실제였다. 다시 강조하지만 살인 재정에서 법정의 모든 사람이 이후 몇 분간 웃음을 참아야 했다. 직접 봐야 믿을 수 있는 장면이다. 노래가 고맙게도 끝나자 법정은 몇 초간 침묵에 잠겼다. 그리고 판사가 말했다. “오늘은 여기까지 하겠습니다. 4시 10분이니, 내일 다시 开하겠습니다.”

그날 앞서 플린의 애인은 그가 자신에게 보낸 여러 문자 메시지를 공개 증언에서 낭독해야 했다. 플린은 이렇게 썼다. “혼자 클리블랜드에서 많은 시간을 보냈어. 우리 노래의 가사를 완성했어. 너의 노래지. 너에게 아무 의미 없을지 몰라도 주고 싶었어. 네가 지금까지 들어본 것과 완전히 다른 음악이 있고, 녹음하려고 했지만 다시는 실제로 부를 수 없을 것 같아서.”

플린은 또 “AI 보이스오버로 너를 위해 쓴 노래를 들어볼래?”라고 썼다. “ElevenLabs라는 소프트웨어가 있는데, 노래를 피아노로 넣고 컴퓨터 마이크로 보내면 AI 목소리를 골라 더 잘 부를 수 있어.”

그녀는 “아직 들을 준비가 됐는지 모르겠어. 미안해”라고 답했다. “노래를 보내줘. 휴대폰에 저장해뒀다가 준비되면 들을게. 한 달 뒤라도. 지워지긴 싫어.”

“확실해? 아웃트로가 원래대로 안 됐고 보컬도 내가 원하는 그대로가 아니야. 어떤 부분은 좀 록 느낌이 났지만 멜로디는 맞아. 열정적으로 부했더니 AI가 그걸 받아서 좀 과하게 만들었어.” 그녀는 “괜찮아”라고 답했다.

이 살인 수사는 여러 면에서 404 Media와 관련이 있다. AI 생성 노래는 빌헬름이 Cellebrite와 GrayKey를 모두 사용해 휴대폰 해제를 시도한 뒤 발견됐다. 최종적으로 빌헬름은 GrayKey의 Magnet 도구로 플린의 휴대폰을 잠금 해제하고 검사해 “전체 파일 시스템 추출”을 얻었다. 그는 플린의 메시지, AI 오디오 파일, 휴대폰 위치 이력, 플린의 아우라(Oura) 링의 수면 데이터, 애플워치의 심박 데이터를 확보했고, 플린이 살인 며칠 전 ‘AI music song generator’라는 앱을 삭제했다는 사실, 에어팟 연결·해제 정보도 확인했다.

저자 소개: 제이슨은 404 Media 공동 창립자이며, 이전에 Motherboard 편집장을 지냈다. 정보공개법(FOIA)과 서핑을 사랑한다. 제이슨 코블러의 더 많은 글 보기

원문 보기
원문 보기 (영어)
We debated for a long time about whether to write about the following video, which comes from a murder trial in which a man named Caleb Flynn is accused of killing his wife. The crime is very serious, and very sad, and yet the following video demonstrates something about where we are as a society. The trial has received national attention and has been streaming live. Toward the end of the proceedings Thursday, the prosecution played two versions of an AI love song that Flynn, a former American Idol contestant, generated for his mistress. Investigators found the AI song files as well as lyrics for the song in Flynn’s Notes app after using the forensic tool GrayKey to break into his phone. “We found audio files on Caleb’s iPhone that seem to have been AI generated and related to his relationship with [his mistress],” Joseph Wilhelm, a forensic investigator testified. “They’re in two different keys. One’s like a happy or upbeat sad song if that makes any sense, and one’s a sad, sad song. I think one’s in a minor key, one’s in a major key, but I’m not a music professional.” “Permission to publish, your honor?,” the prosecutor says. “You may,” the judge says. What follows feels like it should be from an I Think You Should Leave skit or a Nathan Fielder bit. It is real, however. Everyone in the court spends the next few minutes trying not to laugh during what is, again, a murder trial. It simply must be seen to be believed: When the songs mercifully end, the court goes silent for several seconds. The judge then says: “We’re going to break for the day. It’s 10 after 4 [p.m.] We will reconvene tomorrow.” Earlier in the day , Flynn’s mistress was asked to read various text messages he wrote her into the public testimony. “I’ve spent a lot of time on my own and in Cleveland. I finished the lyrics to our song. To your song. Although it may mean nothing to you, I wanted to give them to you. I have the music which is completely different to what you’ve heard to this point and I was going to record it but I know there will be no way I would ever be able to actually sing it again,” Flynn wrote. “Do you want to hear the song I wrote for you with an AI voiceover,” Flynn also wrote. “I have this software called ElevenLabs where I loaded the song on piano and sent it with my computer microphone to which I can pick an AI voice to sing it better.” “I don’t know if I’m ready to listen to this yet. I’m sorry,” she responded. “Send me the song and I’ll save it to my phone and I’ll listen when I’m ready, even if it’s a month from now. I don’t want it to be erased.” “Are you sure? It messed up the outro as it’s supposed to be done and the vocals aren’t exactly how I want it, it was a little rock-ier at times but the melody is correct. I tried to sing it with passion and AI took it and went a little extreme.” “It’s OK,” she said. The investigation into the murder is actually 404 Media-relevant for several reasons. The AI-generated songs were found after Wilhelm used both Cellebrite and Graykey to try to break into Wilhelm’s phone. Ultimately Wilhelm used Graykey’s Magnet tool to unlock and examine Flynn’s phone, which gave him a “full file system extraction.” Wilhelm then obtained Flynn’s messages, the AI audio files, cell phone location history, sleep data from Flynn’s Oura Ring, heart rate data from an Apple Watch, learned that Flynn deleted an app called “AI music song generator” days before the murder, and AirPod connection and disconnection information. About the author Jason is a cofounder of 404 Media. He was previously the editor-in-chief of Motherboard. He loves the Freedom of Information Act and surfing. More from Jason Koebler