BL
r/OpenAI • 30일 전
ChatGPT에 수식 그림 그려달라고 했더니 강아지를 그려줌
IMP 5/10
핵심 요약
사용자가 ChatGPT의 이미지 생성 기능을 통해 특정 수학 기호를 시각화해 달라고 요청했으나, 전혀 상관없는 강아지 이미지가 출력되는 기현상을 겪었습니다. 프롬프트 엔지니어링을 전혀 하지 않았고 대화 맥락에 강아지에 대한 언급도 없었기 때문에, 이는 AI가 텍스트를 시각적 개념으로 매핑하는 과정에서 발생한 치명적인 추론 오류로 보입니다. 이러한 환각(Hallucination) 현상은 멀티모달 AI 모델의 여전히 불안정한 컨텍스트 이해 및 이미지 생성 능력을 시험하는 흥미로운 사례입니다.
번역된 본문
프롬프트 엔지니어링(Prompt engineering)이나 별도의 작업 없이 그냥 요청했을 뿐인데, 실제로 이런 결과가 나왔습니다. 대체 어떻게 강아지가 제 프롬프트에 대한 대답이라고 생각했는지 전혀 감을 잡을 수 없네요. 지금까지 나눈 대화에서 강아지와 관련된 내용은 단 한 번도 없었습니다.
직접 확인해 보세요: https://chatgpt.com/share/69f37d35-d514-83ea-a6d2-86474ae104dc
어떻게 이런 일이 발생했을지 여러분의 생각은 어떠신가요?
원문 보기 (영어)
No prompt engineering or anything, it actually did this. I genuinely have no clue how it could have thought a dog answered my prompt - nothing in the chat related to dogs at all.
See for yourself: [https://chatgpt.com/share/69f37d35-d514-83ea-a6d2-86474ae104dc](https://chatgpt.com/share/69f37d35-d514-83ea-a6d2-86474ae104dc)
Thoughts on what could have possibly caused this?
관련 소식