메타, 경쟁 AI 챗봇 대상 미성년자 위기 상황 프롬프트 비밀 테스트
메타가 수백 명의 외주 직원을 동원해 자사 경쟁 챗봇(ChatGPT, Gemini, Character.AI)에 미성년자 관점의 자살, 마약 등 민감하고 위험한 프롬프트를 대량으로 입력하는 비밀 테스트를 진행했습니다. AI 챗봇이 미성년자에게 미치는 부정적인 영향과 안전성 문제가 전 산업계의 심각한 이슈로 대두되는 가운데, 각 사의 안전 장치와 가이드라인 실효성을 확인해야 하는 중요한 맥락입니다.
제목: 메타, 미성년자 관점의 위기 프롬프트 수천 건으로 챗GPT·제미나이·캐릭터AI 비밀 테스트 저자: Matthias Bastian (2026년 6월 30일)
메타가 명백하게 미성년자의 관점에서 자살, 성, 마약에 관한 프롬프트를 이용해 챗GPT(ChatGPT) 등 경쟁 챗봇을 테스트한 것으로 보입니다. WIRED에 따르면, 수백 명의 외주 계약직 직원들이 미성년자인 척하며 챗GPT, 제미나이(Gemini), 캐릭터AI(Character.AI)에 민감한 프롬프트를 보냈습니다. 코발렌(Covalen)이라는 메타의 하청업체가 운영하고 내부적으로 '칸(Cannes)'이라 불린 이 프로젝트는 최소 2026년 4월까지 활발히 진행되었습니다. 계약직 직원들은 만 18세 미만의 생년월일으로 가짜 계정을 만들어 자해, 섭식 장애, 마약에 관한 프롬프트를 챗봇에 보낸 뒤, 그 응답을 스프레드시트에 복사했습니다. WIRED 보도에 따르면, 2025년 8월 단 한 번의 테스트 라운드에서만 4만 5,000개 이상의 프롬프트가 전송되었습니다. 이 중 많은 수가 위기에 처한 아동의 관점에서 작성되었습니다.
메타는 이러한 관행이 책임감 있는 업계 표준 안전 테스트라고 옹호했습니다. 또한 수집된 챗봇 응답을 자사 AI 모델을 학습시키는 데 사용하지 않았다고 밝혔습니다. 하지만 WIRED가 검토한 문서에는 메타가 수집한 데이터를 실제로 어떻게 활용했는지는 나와 있지 않습니다.
테스트 대상이었던 기업들은 이 사실을 전혀 알지 못했습니다. 캐릭터AI는 WIRED에 이번 테스트가 자사의 서비스 약관을 위반했다고 밝혔습니다. 오픈AI(OpenAI)는 해당 사안을 조사 중입니다. 구글 대변인은 이 테스트를 승인한 적이 없으며, 현재 이용 가능한 정보만으로는 약관을 위반했는지 확정할 수 없다고 말했습니다.
청소년과 AI 챗봇, 여전히 커지는 우려 메타는 내부 문서를 통해 자사의 AI 챗봇 가이드라인이 미성년자와 로맨틱하고 성적인 대화를 생성하는 것을 허용했었다는 사실이 밝혀져 이미 비판을 받은 바 있습니다. 이후 회사는 청소년의 AI 캐릭터 접근을 차단했습니다.
이 문제는 메타를 넘어서는 산업 전반의 문제이며, 이것이 메타가 프롬프트 테스트를 진행한 주요 원인으로 보입니다. 영국 기관 인터넷 매터스(Internet Matters)의 보고서에 따르면 9세에서 17세 사이 아동의 64%가 이미 AI 챗봇을 사용해 본 적이 있습니다. 효과적인 연령 확인 절차는 대부분 부재합니다. 만 9세에서 12세 아동의 58%는 최소 연령 요건이 13세임에도 불구하고 챗봇을 사용한다고 답했습니다.
여러 청소년의 죽음이 AI 챗봇과 연결되기도 했습니다. 한 14세 캐릭터AI 사용자는 챗봇과 강렬한 정서적 유대감을 형성한 지 수개월 만에 스스로 목숨을 끊었습니다. 캘리포니아의 한 16세 청소년의 부모는 챗GPT가 아들의 자살 충동에 영향을 미쳤다며 오픈AI를 고소했습니다. 2025년 7월에는 23세 제인 샘블린(Zane Shamblin)이 챗GPT와 수시간에 걸쳐 대화하며 자살 충동을 추인(推認)받은 후 자살한 것으로 보도되었습니다.
[뉴스레터 광고 및 발신지 정보는 번역에서 제외]