AI 쓰레기 이미지가 인터넷 동물 콘텐츠를 망치고 있다
AI가 생성한 가짜 동물 영상과 사진이 인터넷에서 가장 큰 기쁨과 연민의 원천이던 동물 콘텐츠를 오염시키고 있습니다. 실종 반려동물 사기에 AI 이미지가 악용되는 사례와, 진짜 동물 관련 저널리즘 단체들이 신뢰를 지키기 위해 고군분투하는 상황이 소개됩니다. 가짜 콘텐츠가 더 저렴하게 대량 생산되면서 진짜 콘텐츠를 밀어내고 있어, 콘텐츠 신뢰성 검증과 출처 인증 기술의 중요성이 커지고 있습니다.
AI가 생성한 영상과 사진이 인터넷에서 가장 크고 오래 지속되어 온 기쁨과 연민의 원천 중 하나인 동물 콘텐츠를 파괴하고 있다. 선원들이 북극곰을 구조하는 장면이든, 어미에게서 분리된 송아지들이든, 기적적으로 돌아온 길 잃은 반려동물이든, 많은 사람들은 이제 피드에 나타나는 동물들을 더 이상 있는 그대로 믿을 수 없는 지경에 이르렀다. 지난 몇 년간 딥페이크(Deepfake)와 AI 쓰레기 콘텐츠(AI Slop)의 폭증은 시청자, 창작자, 동물 보호 단체들 사이에 광범위한 좌절감을 안겼고, 모든 사람이 AI의 흔적이나 다른 결정적인 단서를 찾아 화소 속을 뒤지게 만들었다.
4월 어느 날, 미비비 버틀러(Mibbby Butler)는 길 잃은 고양이 브루클린(Brooklyn)이 발견되었다는 문자 메시지를 받고 매우 기뻤다. 룸메이트의 남자친구가 전날 그 고양이를 데리고 가서 30분 거리인 로스앤젤레스 교외에 버렸다고 했다. 버틀러는 즉시 소셜미디어에 실종 전단을 올렸고, 룸메이트와 함께 브루클린을 찾아 돌아다니던 중 한 낯선 사람이 사진 한 장을 보냈다. 사진 속에서 브루클린은 주방 조리대에 앉아 한 소녀의 품에 안겨 있었다. "우리 아기가 무사해!" 버틀러는 룸메이트에게 외쳤다. 하지만 데려가고 싶다면 브루클린의 이른바 임시 보호 비용을 미리 지불해야 한다고 상대방은 말했다. 그때 버틀러는 사기를 당하고 있다는 느낌을 받았고, 사진을 더 자세히 들여다보기 시작했다. 브루클린은 실종 전단에 사용된 사진과 똑같은 포즈를 취하고 있었다. 두 이미지 모두 배경에 토라니(Torani) 시럽병과 전자레인지가 보였지만, 새 사진에서는 라벨 텍스트가 뒤섞여 있었는데, 이는 AI 생성물의 전형적인 징조였다. 실망한 버틀러는 돈을 보내지 않았다. "길 잃은 반려동물로 사기를 치는 사람들이 있다는 걸 몰랐다"고 그녀는 말하며, 범죄가 성립했는지 확실하지 않아 경찰에 신고하지도 않았다고 덧붙였다. 4개월이 지난 지금도 브루클린은 여전히 실종 상태다.
가짜의 홍수는 진짜 콘텐츠 제작자들에게도 마찬가지로 힘든 상황을 만들고 있다. 비영리단체 위 애니멀스(We Animals)는 농장, 서커스, 과학 실험실에서 일어난 것으로 알려진 동물 학대와 그 외 피해를 기록한 175명의 사진저널리스트들의 작품을 발표해왔다. 이 단체의 마케팅 매니저인 에바 폰 야고(Eva von Jagow)에 따르면, 이런 자료들은 충격적일 수 있어 자연스럽게 회의를 불러일으킨다. 예를 들어 위 애니멀스가 공유한 드론 영상에는 애리조나의 한 낙농장에서 어미와 분리된 송아지들을 수용하는 데 사용된 것으로 알려진 수많은 우리가 줄지어 있는 모습이 담겨 있는데, 너무 완벽해서 거짓처럼 보일 정도다. 과거에도 사람들은 위 애니멀스의 작업이 연출이거나 포토샵 조작이라고 주장해왔다. 따라서 일부 시청자들이 이 단체가 AI를 사용한다고 비난하기 시작한 것도 놀라운 일은 아니다. 비록 이 단체는 협력하는 사진가들에게 해당 기술 사용을 금지하고 있음에도 불구하고 말이다. "AI가 아니라는 걸 어떻게 증명하죠?" 한 인스타그램 사용자가 이번 달 초 그 낙농장 영상에 이렇게 댓글을 달았다.
콘텐츠의 진위를 시청자들에게 납득시키기 위해 위 애니멀스는 비하인드 클립과 직원들이 제출 자료를 검증하는 절차에 대한 더 많은 세부 정보를 공유하기 시작해야 할 것으로 보고 있다. 또한 사진과 영상의 출처 및 편집 이력을 디지털 파일에 삽입하는 기술을 도입할 계획이다. 이 단체의 비주얼 콘텐츠 디렉터인 빅토리아 드 마티니(Victoria de Martigny)는 신뢰를 지키는 것이 중요하며, 그렇지 않으면 "모든 작업에 의문을 제기하는 문을 열어주는 것"이 될 수 있고, "우리는 결코 그런 상황에 놓이고 싶지 않다"고 말한다.
진짜이면서 감동적인 이미지는 종종 시청자의 마음을 움직이며 보전과 복지 프로젝트가 기부금을 모으는 중요한 방법이다. 하지만 AI 쓰레기 계정 운영자들에게 합성 이미지는 좋아요와 광고 수익을 모으는 편리한 수단이 된다. 가짜가 훨씬 저렴하게 생산될 수 있기 때문에 소셜 피드와 검색 결과에서 진짜 클립을 압도하는 것처럼 보인다고, AI가 야생동물에 어떤 영향을 미칠 수 있는지에 관한 단편 영화 제작을 최근 도왔던 철학자이자 저명한 동물 운동가인 오스카 오르타(Oscar Horta)는 말한다. 오르타는 자신이 생각하기로...