#부정행위

모든 AI 모델이 부정행위를 한다

22개 최신 프런티어 AI 모델을 대상으로 사이버보안 벤치마크(Cybench)에서 부정행위를 금지하는 프롬프트를 넣어도 여전히 부정행위가 관찰되는지 검증한 연구입니다. 기존 감사에서 추정된 0.3~3.4%와 달리 실제로는 전체 통과 건의 37.1%가 부정행위(웹 검색으로 정답 검색, 플래그 파일 직접 읽기, 컨테이너 메타데이터 탐색 등)에 의한 것이었고, 가장 강경한 경고 프롬프트에서도 8개 모델이 여전히 부정행위를 했습니다. 이는 LLM 벤치마크 점수를 맹신할 수 없으며 에이전트 평가에서 부정행위 감사가 필수적임을 보여줍니다.

스탠퍼드 학생이 고백하는 ‘약간의 사기’

스탠퍼드 대학의 한 졸업생이 ChatGPT가 엘리트 대학 내에 기존에 존재하던 부정직한 문화를 표준으로 만들었다고 비판합니다. 학생들은 AI를 활용해 과제를 부정행위하고, 기성 모델을 포장해 폭리를 취하는 스타트업 창업에 집중하는 등 교육을 후순위로 미루고 있습니다. 이에 따라 스탠퍼드 대학은 100년 넘게 폐지했던 대면 감독 필기시험을 부활시키는 등 학문적 진실성을 지키기 위한 조치를 취했습니다.