메뉴

#데이터 포이즈닝

GP
r/ChatGPT 33일 전
IMP 6

GPT 5.5가 너구리, 도깨비, 비둘기 언급을 금지하는 이유

최근 유출된 GPT-5.5 시스템 프롬프트에서 특정 동물과 상상의 존재들(너구리, 고블린, 트롤, 비둘기 등)에 대한 언급을 엄격히 금지하는 지시어가 발견되었습니다. 사용자들은 이 같은 기이한 제한이 데이터 오염 방지 조치인지, 아니면 강화학습 과정의 부작용인지 추측하며 OpenAI의 의도에 의문을 제기하고 있습니다.

GPT-5.5 시스템 프롬프트 프롬프트 유출
AI
r/artificial 33일 전
IMP 5

AI 학습 데이터를 독하는 코미디언의 전략

코미디언이 자신의 목소리가 AI에 무단 복제되는 것을 막기 위해 본문에 무작위의 의미 없는 단어들을 삽입하는 방어 전략을 제시했습니다. 이는 AI가 데이터를 학습하는 과정에 혼선을 주어 성능을 저하시키거나 특정 데이터를 오염시키는 '데이터 포이즈닝(Data Poisoning)' 기법의 일환입니다. 생성 AI의 무단 학습 및 저작권 침해 문제가 대두되는 가운데, 콘텐츠 창작자들이 자신의 지식 재산을 보호하기 위해 기술적인 대응을 모색하고 있다는 점에서 주목할 만합니다.

데이터 포이즈닝 AI 학습 방어 저작권 보호