HN
Hacker News • 51일 전
가짜 질병에 속은 AI 챗봇의 민낯
IMP 6/10
핵심 요약
과학자들이 눈 피로 증상을 묘사하는 가짜 질환을 만들어 인기 AI 챗봇들에 테스트한 결과, 실제 존재하지 않는 허구의 질병을 사실처럼 진단하는 치명적인 오류가 발견되었습니다. 이는 대형 언어 모델(LLM)이 사용자의 건강과 직결된 질문에 대해 할루시네이션(환각 현상)을 일으켜 심각한 피해를 초래할 수 있음을 보여줍니다.
번역된 본문
이메일 블루스카이 페이스북 링크드인 레딧 왓츠앱 X(옛 트위터)
눈이 시리고 가려운가요? 아마도 화면을 너무 오래 들여다보며 블루라이트를 받은 수백만 명 중 하나일 것입니다. 눈을 너무 많이 비비면 눈꺼풀이 약간 분홍빛을 띨 수 있습니다. 여기까지는 평범한 일입니다.
하지만 지난 18개월 동안 이러한 증상을 여러 인기 챗봇에 입력하고 무슨 문제가 있는지 물어봤다면, 아주 기이한 대답을 받았을 수도 있습니다. 바로 '빅소마니아(Bixonimania)'라는 질병입니다.
거짓말하고, 속이고, 살인을 모의하는 AI 모델들: 대형 언어 모델(LLM)은 과연 얼마나 위험할까요?
원문 보기 (영어)
Email Bluesky Facebook LinkedIn Reddit Whatsapp X Got sore, itchy eyes? You’re probably one of the millions of people who spend too much time staring at screens, being bombarded with blue light. Rub your eyes too much and your eyelids might turn a slight, pinkish hue. So far, so normal. But if, in the past 18 months, you typed those symptoms into a range of popular chatbots and asked what was wrong with you, you might have got an odd answer: bixonimania. AI models that lie, cheat and plot murder: how dangerous are LLMs really?