TD
The Decoder • 29일 전
IMP 7
메타, 경쟁 AI 챗봇 대상 미성년자 위기 상황 프롬프트 비밀 테스트
메타가 수백 명의 외주 직원을 동원해 자사 경쟁 챗봇(ChatGPT, Gemini, Character.AI)에 미성년자 관점의 자살, 마약 등 민감하고 위험한 프롬프트를 대량으로 입력하는 비밀 테스트를 진행했습니다. AI 챗봇이 미성년자에게 미치는 부정적인 영향과 안전성 문제가 전 산업계의 심각한 이슈로 대두되는 가운데, 각 사의 안전 장치와 가이드라인 실효성을 확인해야 하는 중요한 맥락입니다.
메타 AI안전 미성년자보호