‘서틀페이크’: 살짝 변조된 AI 비동의 이미지가 X를 장악하다
딥페이크 이후 등장한 새로운 형태의 합성 매체인 '서틀페이크(subtlefake)'가 X(구 트위터)에서 확산하고 있습니다. 유명인의 실제 사진을 AI로 미묘하게 수정해 더 선정적으로 보이게 만든 이 이미지들은 기존 딥페이크보다 구별이 어렵고 더욱 그럴듯해 보입니다. 문제는 기술만 발전하는 것이 아니라 이를 악용하는 사람들의 수법도 정교해지고 있다는 점이며, X는 참여 유치형 계정에 노출 기반 보상을 지급하며 이러한 문제를 사실상 방치하고 있습니다.
내가 처음 딥페이크를 본 순간은 생생하게 기억한다. 2017년, Vice 사무실로 가는 길에 기차를 기다리던 중 레딧에 올라온 것을 본 사람에게서 트위터 다이렉트 메시지를 받았다. 그것은 포르노 영상 도입부의 짧은 .gif 파일로, 침대에 누워 카메라를 향해 이야기하는 여성이 나왔는데, 그 여성의 얼굴이 갤 가돗(Gal Gadot)처럼 보이도록 편집되어 있었다. 그 딥페이크는 당시 기준으로 놀라울 정도로 사실적이었고, 그날 이후 샘의 보도가 보여주듯 딥페이크는 주로 여성을 괴롭히고 모욕하는 데 사용되어 왔다. 우리는 당시 그 기술이 얼마나 앞서 있는지 놀랐고, 인터넷과 법이 이를 다룰 준비가 되어 있지 않다는 것을 알았다. 그 이후 기술은 기하급수적으로 발전했지만, 인터넷과 법은 여전히 따라잡지 못하고 있다.
하지만 딥페이크가 처음 보았을 때부터 분명 우려스러웠던 만큼, 문제는 갤 가돗이 실제로 성인 영상을 찍었다고 우리가 믿었다는 것이 아니었다. 딥페이크는 그럴듯해 보일 수 있지만, 우리가 보고 있는 것이 진짜라고 속인 적은 한 번도 없었다. 그런데 지난 몇 달간 나는 X에서 많은 사람들을 속일 것이라고 생각하는 새롭고 기묘한 유형의 AI 생성 비동의(非同意) 이미지를 보아왔다. 내가 '서틀페이크(subtlefake)'라고 부르기 시작한 이 이미지들은 그렇게 명백히 공격적이지는 않지만, 훨씬 더 그럴듯하다. 우려스러운 시사점은 이제 기술만 발전하는 것이 아니라, 이를 악의적으로 사용하는 사람들 역시 더 정교해지고 있다는 것이다.
2019년 데이터 앤 소사이어티(Data & Society)가 AI나 다른 첨단 기술 없이 진실을 조작하는 편집된 미디어로 정의한 '치프 페이크(cheap fake)'와 마찬가지로, 서틀페이크는 2017년 딥페이크의 등장 이후 인터넷을 장악한 또 다른 형태의 합성 미디어다. 이 더 그럴듯한 이미지들은 유명인의 AI 생성 누드나 포르노 영상에 얼굴을 합성한 것이 아니라, 유명인의 이미지를 더 노출이 심하거나 선정적으로 보이도록 미묘하게 편집한 AI 생성 이미지다.
우리는 유명인과 일반인의 AI 생성 비동의 미디어에 대해 셀 수 없이 많은 기사를 써왔다. 이는 사람들에게 심리적·물질적 피해를 입히는 괴롭힘의 한 형태이며, 그러려면 그럴듯해 보일 필요조차 없다. 이미지가 사진처럼 사실적으로 보이더라도, 세계 최고의 배우가 갑자기 하드코어 포르노를 찍어 아무런 익명 계정이 X에 게시할 가능성은 거의 없다는 단순한 이유로 대부분 명백히 가짜임을 알 수 있다.
최근 내가 보고 있는 이미지들은 대체로 아주 살짝만 변조되어 있다. 예를 들어 한 유형은 유명 배우가 레드커피트를 걷는 실제 사진을 편집해 드레스가 더 노출되게 하거나 엉덩이나 가슴을 더 크게 만든다. 다른 유형은 운동 직후 체육관에서 찍은 셀카처럼 보이는 완전히 AI 생성된 이미지다.
내가 완전히 안심하고 공유할 수 있는 유일한 사례는 이런 가짜의 대상이었던 배우 소칠틀 고메스(Xochitl Gomez)가 지적하며 직접 공유한 것이다. 그녀가 인스타그램에 공유한 나란히 놓은 비교 사진에서 보듯, 누군가 주차장에서 어깨 너머로 카메라를 보며 웃고 있는 그녀의 실제 사진을 가져와 AI로 한 이미지에서는 몸을 굽히는 것처럼, 다른 이미지에서는 손을 엉덩이에 올리는 것처럼 보이게 만들었다. 마찬가지로 누군가 그녀의 레드커퍼트 사진을 가져와 카메라에서 등을 돌리고 혀를 내미는 것처럼 보이게 만들었다.
이 이미지들은 단순히 사진처럼 사실적일 뿐만 아니라, 우리가 비동의 이미지에서 일반적으로 기대해 온 통상적인 맥락적 단서도 없다. 나는 AI 생성 이미지를 식별하는 일이 우리가 여기서 하는 일의 큰 부분이기 때문에 매우 잘 알아본다고 생각하지만, 그냥 X를 스크롤하다가는 이것들이 AI 생성이라고 말할 수 있을지 모르겠다.
이 이미지들은 거의 항상 X의 인증된 참여 유치(engagement farming) 계정에 의해 게시되는데, 이 계정 운영자들은 게시물이 충분한 노출을 얻으면 보상을 받는다. X는 사람들이 이런 일과 이만큼 나쁘거나 더 나쁜 다른 일들을 하는지 전혀 개의치 않는다는 것이 분명하다. 나는 최소한 이런 이미지 몇 개를 공유한 계정을 하나 목격했다.