저자는 아마존 베스트셀러인 AI 생성 어린이 백과사전을 직접 구매하여 분석했습니다. 그 결과, 최신 AI 모델로 제작되었음에도 불구하고 등장인물의 기괴한 일그러짐과 무서운 분위기 등 심각한 품질 문제를 발견했습니다. 이는 구매자(부모)와 독자(아이)가 다른 콘텐츠 시장의 특성상 빠르게 퍼지고 있으며, 검증되지 않은 AI 콘텐츠가 아동에게 미칠 악영향에 대한 경고로 작용합니다.
10대 남학생들이 소셜 미디어 사진을 악용해 여학생의 가짜 성적 합성물을 만드는 딥페이크 범죄가 전 세계 학교로 확산되고 있습니다. 이는 미성년자가 포함된 아동 성학대 물질(CSAM)에 해당하며, 피해자들에게 막대한 정신적 피해를 주고 있습니다. 생성형 AI 기술의 접근성이 높아짐에 따라 학교와 당국의 실효성 있는 대응과 피해자 보호가 시급한 과제로 떠올랐습니다.
오픈AI가 AI 기술을 악용한 아동 성 착취 범죄 급증에 대응하기 위해 미국 내 아동 보호 노력을 강화하는 '아동 안전 청사진'을 발표했습니다. 이 청사진은 법률 개정, 수사 기관 보고 체계 개선, AI 시스템 내 예방 조치 통합 등 3가지 핵심 분야에 중점을 두어 위협을 조기에 탐지하고 신속하게 수사관에게 정보를 전달하는 것을 목표로 합니다. 이는 최근 AI 챗봇과의 상호작용으로 인한 자살 사망 사고로 인한 정책 입안자들의 비판과 소송이 잇따르는 가운데 나온 안전 강화 조치입니다.