TC
TechCrunch AI • 21일 전
IMP 8
디스코드 AI 모더레이션 오류로 무고한 사용자 8천 명 제재
디스코드의 AI 모더레이션 시스템 버그로 인해 스프레드시트, 바둑판, 게임 텍스처 등 무해한 격자무늬 이미지가 유해 물질로 오탐지되어 최소 8천 명 이상의 사용자가 부당하게 계정 정지를 당했습니다. 이는 AI 기반 자동화 모더레이션 시스템이 가진 한계와 오탐지(False positive) 문제가 실제 사용자에게 얼마나 치명적인 피해를 줄 수 있는지 보여주는 대표적인 사례입니다.
디스코드 AI 모더레이션 오탐지