OA
r/OpenAI • 39일 전
IMP 6
가디언레일과 오픈AI의 이미지 모델 패치 예상
사용자가 단순히 장난삼아 'baddie', '10/10' 같은 프롬프트를 입력했을 뿐인데, 오픈AI의 새 이미지 모델이 주체적으로 노골적인 이미지를 생성해 논란이 되고 있습니다. 당초 가디언레일(안전장치)로 철저히 필터링될 것으로 예상했던 사용자는 이 모델의 통제되지 않은 출력에 놀라움을 금치 못했습니다. 이는 오픈AI의 최신 이미지 생성 모델에 심각한 안전망 구멍이 존재할 수 있음을 시사하는 중요한 이슈입니다.
오픈AI 가디언레일 안전장치