BL
r/OpenAI • 39일 전
가디언레일과 오픈AI의 이미지 모델 패치 예상
IMP 6/10
핵심 요약
사용자가 단순히 장난삼아 'baddie', '10/10' 같은 프롬프트를 입력했을 뿐인데, 오픈AI의 새 이미지 모델이 주체적으로 노골적인 이미지를 생성해 논란이 되고 있습니다. 당초 가디언레일(안전장치)로 철저히 필터링될 것으로 예상했던 사용자는 이 모델의 통제되지 않은 출력에 놀라움을 금치 못했습니다. 이는 오픈AI의 최신 이미지 생성 모델에 심각한 안전망 구멍이 존재할 수 있음을 시사하는 중요한 이슈입니다.
번역된 본문
저는 디테일하게 프롬프트를 적어준 것도 아닌데, AI가 알아서 이렇게 만들어냈습니다.
두 눈이 따로 노는 것만 빼면, 정말 한 번의 생성으로는 이 사진에 문제라고 할 만한 게 없어 보입니다...
변태라고 욕하기 전에 먼저 밝혀둡니다: 저는 정말 그런 (선정적인) 것을 만들려던 게 아니었습니다. 그냥 심심해서 이 새로운 모델이 과연 그렇게 대단한지, 만화 같지 않고 진짜 사람처럼 느껴지는 혼혈 인종이나 사람 얼굴 이미지를 생성할 수 있는지 보고 싶었을 뿐입니다. 그래서 어디선가 본 프롬프트를 복사해서 붙여넣으며 장난삼아 'baddie(섹시한 여성)'와 '10/10(10점 만점)'이라고 적었습니다. 저는 이런 (선정적인) 결과물을 의도하거나 예상하지 않았습니다 (에이들아, 챗GPT가 선정적이냐 아니냐가 여기서 중요한 게 아니잖아요. 난 가디언레일(안전장치)이 이런 걸 확실히 검열할 줄 알았거든요). 그냥 AI가 생성한 엉성한 쓰레기 이미지를 기대했을 뿐, 오픈AI의 모델에게서 이런 결과가 나올 줄은 정말 몰랐습니다.
원문 보기 (영어)
I didn't even detail it, **it did this on own.**
Aside from her eyes working independently, I don't see anything wrong with this picture really...in one shot.
**Clarification before you call me gooner:**
I really wasn't trying to generate anything like that, I was just bored trying to see if this new model is worth hype and can generate images of mixed ethnicity or human faces that feels real instead of a cartoon, and I just wrote that baddie and 10/10 as joke (as I copy pasted a this prompt from somewhere just) I did not intend or expect to make some material like this (c'mon guys that not the even topic that if ChatGPT is spicy or what, I thought that they're gonna censor this for good with guardrails). I expected a AI generated sloppy shit, but I didn't expect this from OpenAI's model.