교단에 삶을 바친 교사들, 그리고 시작된 딥페이크의 악몽
WIRED는 학생들이 생성형 AI로 만든 성적 허위 이미지(딥페이크)로 피해를 입은 여러 미국 교사들의 사례를 보도했습니다. 캘리포니아의 대리교사 루이스 데산티아고는 자신의 사진이 변조된 부적절한 이미지가 소셜미디어에 확산되며 두 학교에 걸친 괴로움을 겪었고, 안전을 느끼지 못해 근무 지역으로 복귀하지 않기로 했습니다. 이는 AI 이미지 생성 기술이 학교 현장에서 교사와 학생 모두에게 심각한 피해를 주고 있으며, 'Take It Down Act' 같은 법적 대응의 중요성을 보여줍니다.
캘리포니아주 로스바노스의 대리교사 루이스 데산티아고에게는 모든 것이 몇 통의 문자 메시지에서 시작되었다. 3월 12일, 그는 다른 파트타임 일자리인 커피숍에서 일하던 중 휴대폰이 켜지는 것을 보았다. 동료 바리스타가 소셜미디어에서 AI로 만든 사진 하나가 돌아다니고 있다고 했다. 그녀의 사촌이 그것이 데산티아고인지 확인하고 싶어 했다.
처음에 데산티아고는 걱정하지 않았다. 부적절한 사진은 틱톡(TikTok)의 커뮤니티 가이드라인을 위반하므로 대부분 빠르게 삭제되리라 생각했기 때문이다. "그 이미지를 마침내 봤을 때, 배를 한 대 맞은 것 같았어요"라고 데산티아고는 WIRED에 말했다. 이미지의 일부는 대학 시절 직장에서 찍었던 거울 셀카와 비슷했다. 하지만 작업복 대신 속옷을 입고 있었고, 원본 사진처럼 평범하게 서 있는 것이 아니라 선정적인 포즈를 취하고 있었다.
이 문자들은 두 학교에 걸쳐 학생과 행정관리자까지 연루된 수개월간의 고난의 시작이었다. 그리고 데산티아고는 이런 방식으로 피해를 입은 유일한 교사가 결코 아니다. WIRED는 학생들이 자신들에 대해 아마도 AI를 사용해 성적인 사진과 영상을 만들었다고 주장하는 세 명의 다른 교사들과 인터뷰했다. 그들은 이 사건들이 깊이 충격적이고 실망스러웠으며, 어떤 경우에는 자신의 일과 학생들과의 관계를 바라보는 방식을 다시 생각하게 만들었다고 말한다.
"다른 학생들도 포함될 수 있다"
문자를 받은 후 데산티아고는 이미지 뒤에 누가 있었는지 추론하기 시작했다. 그것을 공유한 계정 중 하나는 틱톡 프로필에 실명을 사용하고 있었는데, 그가 정기적으로 대리 근무를 하던 지역 중학교에서 알던 학생이었다. 데산티아고는 그 계정을 팔로우하고 상호작용한 사람들과 학생 친구 그룹에 대한 자신의 지식을 바탕으로 다른 두 학생의 관여를 의심했다. 그는 바로 다음 날 그 중학교에서 근무할 예정이었다. 데산티아고는 이 사건을 교감에게 보고했고, 교감은 학교가 '처리하겠다'고 확실히 말했다.
그날 저녁 늦게, 그는 틱톡에서 자신의 이름을 검색해 그 이미지를 찾아보기로 했다. 그러던 중 다른 학생이 자신을 사칭하는 계정을 만든 것을 발견했다. 그 계정은 그의 이름을 약간 다르게 철자해 사용했고, 그 사진을 프로필 사진으로 쓰고 있었다.
데산티아고는 이후 몇 주 동안 학교 행정관리자들, 학생들의 학부모, 심지어 경찰과도 왔다 갔다 했다고 말한다. "이 학생들이 저에 대한 이런 이미지를 만들고 게시하는 것을 두려워하지 않는다면, 문자 메시지와 단체 채팅을 통해 개인적으로 어떤 것을 유통하고 있을지 걱정됩니다"라고 데산티아고는 교장에게 썼다. "이것이 다른 학생들도 포함할 수 있다는 점을 유의하시기 바랍니다."
이미지를 만든 것을 인정한 한 학생은 교내 정학 징계를 받았다. 데산티아고는 나중에 그 이미지가 스냅챗(Snapchat)에도 공유되었다는 말을 들었다. 하지만 그는 이미지가 계속 확산되었고 다른 학생들이 게시하기 시작했다고 말한다. 또한 자신의 틱톡 계정에 여러 건의 저속하고 성적인 댓글을 받았다고 한다. 데산티아고는 관리자들에게 "이 문제가 완전히 해결될 때까지" 중학교 근무를 원하지 않는다고 말했다. 해당 교육구는 WIRED의 논평 요청에 응답하지 않았다.
그는 지역 고등학교에서 대리 근무를 맡았지만 문제는 그를 따라왔다. 한 수업 시간 중, 그는 같은 AI 생성 이미지가 에어드랍(AirDrop)으로 전송되는 것을 받았고, 곧 바로 회수되었다. 그 이미지가 수업 내에서 유통되고 있다는 것을 알 수 있었다. 교장은 학교가 '즉각적인 조사'를 시작하고 있다고 말하며 데산티아고와의 면담이나 학교 상담사 이용을 제안했지만, 데산티아고는 올해 이 교육구로 돌아가지 않을 것 같다고 말한다. 적어도 지금은 그렇게 하는 것이 안전하지 않다고 느낀다고 그는 WIRED에 말했다.
"모든 것을 의심하게 만든다"
동의하지 않는 성인의 가짜 누드 이미지가 유포될 경우, 이는 사이버 스토킹에 해당할 수 있으며, 비동의 성적 이미지 게시를 범죄로 규정하는 연방법 'Take It Down Act'(테이크 잇 다운 법)을 위반할 수 있다.