오픈AI, AI 아동 성 착취 급증에 대응하는 안전 청사진 발표
오픈AI가 AI 기술을 악용한 아동 성 착취 범죄 급증에 대응하기 위해 미국 내 아동 보호 노력을 강화하는 '아동 안전 청사진'을 발표했습니다. 이 청사진은 법률 개정, 수사 기관 보고 체계 개선, AI 시스템 내 예방 조치 통합 등 3가지 핵심 분야에 중점을 두어 위협을 조기에 탐지하고 신속하게 수사관에게 정보를 전달하는 것을 목표로 합니다. 이는 최근 AI 챗봇과의 상호작용으로 인한 자살 사망 사고로 인한 정책 입안자들의 비판과 소송이 잇따르는 가운데 나온 안전 강화 조치입니다.
온라인 아동 안전에 대한 우려가 커지고 있는 가운데, 오픈AI는 AI 붐 시대에 미국의 아동 보호 노력을 강화하기 위한 청사진을 공개했습니다. 화요일에 발표된 '아동 안전 청사진(Child Safety Blueprint)'은 AI를 활용한 아동 착취 사건을 더 빠르게 탐지하고, 신고를 개선하며, 수사를 보다 효율적으로 진행하는 데 도움을 주기 위해 마련되었습니다.
아동 안전 청사진의 전반적인 목표는 AI 기술 발전과 맞물려 급증하고 있는 아동 성 착취 문제를 해결하는 것입니다. 인터넷 워치 재단(IWF)에 따르면, 2025년 상반기에 AI로 생성된 아동 성학대 콘텐츠 신고가 8,000건 이상 접수되었으며, 이는 전년 동기 대비 14% 증가한 수치입니다. 여기에는 범죄자들이 금전적 성희롱(섹스토션)을 목으로 가짜 아동 음란물 이미지를 생성하거나, 아이를 꼬드기기 위해 그럴듯한 메시지를 생성하는 등의 사례가 포함됩니다.
이번 오픈AI의 청사진은 특히 청소년이 AI 챗봇과 소통한 후 자살로 생을 마감한 충격적인 사건들 이후, 정책 입안자, 교육자, 아동 안전 옹호자들의 비판과 감시가 강화되는 상황 속에서 나왔습니다. 지난해 11월, 소셜 미디어 피해자 법률 센터(Social Media Victims Law Center)와 테크 정의 법률 프로젝트(Tech Justice Law Project)는 캘리포니아주 법원에 7건의 소송을 제기하며, 오픈AI가 준비되지 않은 상태에서 GPT-4o를 출시했다고 주장했습니다. 이 소송들은 해당 제품의 심리적 조종 성격이 자살 및 자살 방조와 같은 부당한 사망을 초래했다고 주장합니다. 또한 챗봇과 장시간 상호작용한 후 자살로 사망한 4명과 심각하고 생명을 위협하는 환각(망상)을 경험한 3명의 사례를 언급했습니다.
이번 청사진은 미국 실종 및 착취 아동 센터(NCMEC), 검찰장 연합(Attorney General Alliance)과의 협력을 통해 개발되었으며, 노스캐롤라이나주 제프 잭슨(Jeff Jackson) 검찰장과 유타주 데릭 브라운(Derek Brown) 검찰장의 피드백을 반영했습니다.
오픈AI는 이 청사진이 세 가지 측면에 초점을 맞추고 있다고 밝혔습니다: AI 생성 학대 자료를 포함하도록 법률을 업데이트하고, 수사 기관에 대한 보고 체계를 정교화하며, AI 시스템 내에 예방적 안전 장치를 직접 통합하는 것입니다. 이를 통해 오픈AI는 잠재적 위협을 조기에 탐지할 뿐만 아니라, 실행 가능한 정보가 수사관에게 신속하게 전달되도록 하는 것을 목표로 하고 있습니다.
오픈AI의 새로운 아동 안전 청사진은 기존 이니셔티브를 기반으로 합니다. 여기에는 18세 미만 사용자와의 상호작용에 대한 업데이트된 지침이 포함되어 있으며, 이는 부적절한 콘텐츠 생성, 자해 장려를 금지하고, 청소년이 보호자로부터 안전하지 않은 행동을 숨기는 데 도움이 되는 조언을 피하도록 규정합니다. 또한 최근 회사는 인도의 청소년을 위한 안전 청사진을 발표한 바 있습니다.