무기화된 딥페이크의 위협
최근 딥페이크 기술의 발달과 쉽게 접근 가능한 생성형 AI 모델의 보급으로, 가짜 음란물부터 정치적 선전까지 악의적인 딥페이크가 실제처럼 빠르게 유포되고 있습니다. 이러한 '무기화된 딥페이크'는 여성과 소외 계층에게 편향된 피해를 입히며, 사회적 신뢰와 비판적 사고를 저하시키는 심각한 문제를 야기하고 있습니다. 기업의 자체적 기술 통제나 정부의 규제에도 명확한 한계가 드러나는 가운데, 올해 있을 미국 중간선거 등을 앞두고 그 위험성이 더욱 커지고 있습니다.
현재 AI에서 가장 중요한 10가지 (전체 목록 보기)
수년간 전문가들은 딥페이크, 즉 사람들이 실제로 하지 않은 말이나 행동을 하는 것처럼 AI가 생성한 비디오, 이미지 또는 오디오 녹음이 악의적인 방식으로 사용될 수 있다고 경고해 왔습니다. 이제 그 위험은 현실이 되었습니다. 딥페이크 기술의 발전과 사용이 쉽고 저렴한(또는 무료인) 생성형 모델의 광범위한 보급으로 인해, 누구나 점점 더 식별하기 어려운 방식으로 현실을 조작하기가 그 어느 때보다 쉬워졌습니다.
여기서 말하는 것은 인터넷을 뒤덮은 흔히 명백히 가짜인 콘텐츠인 'AI 슬롭(AI slop)'이 아닙니다. 오히려 성적으로 노골적인 이미지, 사기성 게시물, 정치적 선전 등 무기화된 딥페이크는 놀라울 정도로 사실처럼 보일 수 있습니다. 전 세계적으로 이미 폭력을 선동하거나, 사람들의 생각(어쩌면 표까지)을 바꾸려 하고, 일반적으로 불신을 퍼뜨리는 사례가 나타나고 있습니다.
그렇기에 전문가들은 무기화된 딥페이크가 우리의 비판적 사고 능력은 물론이고 기관과 서로에 대한 신뢰를 더욱 붕괴시킬 것이라고 우려하고 있습니다. 이는 사회와 거버넌스, 그리고 당연히 표적이 된 사람들에게 치명적인 영향을 미칩니다. 기술의 유해성에 대한 다른 많은 예에서 볼 수 있듯, 그 피해는 불균형적으로 여성과 소외 계층에게 집중될 것입니다. 기술은 지난 몇 년간 발전했지만, 2023년 연구에 따르면 딥페이크의 98%가 음란물 성격을 띠고 있으며, 99%가 여성을 묘사한 것으로 나타났습니다.
그록(Grok)의 사례를 보십시오. 일론 머스크가 작년 말 이 AI 챗봇의 '이미지 편집' 기능을 출시한 이후, 사용자들은 아동과 여성을 포함해 수백만 장의 성적 대상화된 이미지를 만들어냈습니다. 한 보고서는 그록이 생성한 이미지의 81%가 여성을 묘사한 것으로 추정했습니다. 광범위한 비판에도 불구하고 xAI의 초기 대응은 해당 기능을 유료 회원으로 제한하는 것이었습니다. 이후 해당 기능이 불법인 관할 구역에서는 나체 생성 기능을 차단했습니다.
정치적 딥페이크 역시 급증했습니다. 예를 들어, 트럼프 행정부는 AI로 생성된 이미지와 비디오를 정기적으로 제작해 공유해 왔습니다. 그것들이 모두 실제처럼 보이도록 의도된 것은 아니지만, 일부는 여론을 조작하거나 묘사된 인물을 모욕하기 위해 고안된 것으로 보입니다. 동시에 올해 1월, 텍사스주 법무장관 켄 팩스턴은 미국 상원 의석을 위한 공화당 경선에서 자신의 경쟁자인 존 코니 상원의원이 민주당 대선 후보 경선에 출마한 재스민 크로켓 하원의원과 춤추는 것처럼 보이는 영상을 공유했습니다. 하지만 이 일은 실제로 일어난 적이 없으며, 해당 광고는 이 사실을 명확히 밝히지 않았습니다.
주요 AI 기업들에서 새로운 기술적 안전장치와 탐지 방법을 도입하고, 사용자들이 더 많은 보호 조치를 취하도록 유도하며, 새로운 법안을 제정하거나 저작권법과 같은 기존 규제 프레임워크를 이 문제에 적용하는 등의 해결책이 제시되고 있습니다. 하지만 이 모든 것에는 한계가 있습니다. 기술적 해결책은 우회될 수 있습니다. 예를 들어, 악의적인 행위자들은 안전장치 없이 구축된 오픈소스 모델로 전환하면 그만입니다. 사진에 워터마크를 찍거나 온라인에 개인 정보를 덜 게시하는 등 사람들의 행동 방식을 바꾸도록 하는 것은 비현실적입니다. 더 강력한 규제는 집행이 뒷받침되어야 합니다. 트럼프 대통령은 딥페이크 포르노를 범죄화하는 법안에 서명했지만, 그의 행정부는 다른 유형의 유해한 딥페이크를 계속 게시하고 있습니다. 예를 들어, 1월 말 백악관은 미니애폴리스 시민권 변호사의 수정된 이미지를 공유했는데, 그녀의 피부색을 어둡게 하고 차분한 표정을 과장된 울음으로 바꿨습니다.
문제는 더욱 심각해질 수 있으며, 그 속도도 빠를 것입니다. 올해 하반기 미국에서 중요한 중간선거가 치러지며, 전통적으로 선거 관련 정보의 무결성을 다루던 연방 기관들은 약화되었습니다. 팩트체크 및 선거 관련 허위 정보와 싸우는 데 전념하는 많은 외부 연구 그룹들도 마찬가지로 힘을 잃었습니다.
딥 다이브 인공지능 OpenAI는 완전 자동화된 연구원을 구축하기 위해 모든 것을 쏟아붓고 있습니다. 이 회사의 새로운 (프로젝트에 대한 수석 과학자 야쿠브 파초키와의 단독 인터뷰)