#데이터 검수

OpenAI, AI로 AI를 학습시킨 계약직 검수자들 해고

OpenAI의 모델 개선을 위해 고용된 수천 명의 계약직 데이터 검수자들이 업무에 AI를 사용하다 적발되어 해고된 사실이 404 Media의 내부 문서 확보로 드러났습니다. 이는 AI가 생성한 텍스트로 학습할수록 모델 성능이 저하되는 '모델 붕괴(model collapse)'를 막기 위해 인간의 검수가 필수적인 상황에서 벌어진 일이라 아이러니합니다. 검수자들은 반복적 단어 사용, em dash 과다 사용 등 AI 사용의 단서를 파악하도록 지시받고 있으며, 내부 문서에는 AI 탐지 도구나 Grammarly 같은 AI 도구 사용 자체도 금지되어 있습니다.

오픈AI, 수백 명의 계약직이 사용자 챗GPT 대화를 읽고 있다

404 Media의 조사에 따르면 오픈AI는 수백 명의 계약직 검수자가 실제 챗GPT 사용자 대화를 읽고 응답을 1~7점으로 평가하며, 과도한 아첨과 인간적 행동을 줄이는 작업을 하고 있다. 관련 안내는 깊숙이 묻힌 FAQ에만 있어 사실상 동의로 보기 어렵고, 사용자는 기본 켜져 있는 '모두를 위해 모델 개선' 설정을 꺼야 사람이 대화를 읽는 것을 막을 수 있다. Anthropic과 Google도 유사하게 인간 검수를 활용하고 있다.