스웨덴 연구원이 고의로 만들어낸 가짜 질병 '빅소니마니아(Bixonimania)'를 주요 AI 모델들이 실제 질병으로 오인하여 수천만 명에게 잘못된 의학 정보를 제공한 실험 결과입니다. 특히 AI가 생성한 허위 정보가 실제 동료 평가를 거친 유명 학술지에 인용될 정도로 의료 정보 생태계 전반의 오염이 심각하다는 사실을 입증했다는 점에서 매우 중요합니다.
워싱턴 대학교 연구진이 교사의 1인칭 시점 영상을 AI 훈련 데이터로 활용하려다 논란이 발생했습니다. 명시적 동의를 구하는 옵트인 방식이 아닌, 거부해야 수집이 중단되는 옵트아웃(Opt-out) 방식을 채택하여 개인정보 침해 우려를 낳았습니다. 결국 학부모들의 강한 반발에 부딪혀 해당 연구는 전면 보류되었습니다.
아카이브(arXiv)는 생성형 AI가 작성한 저열물(AI slop)이나 검증되지 않은 오류가 포함된 논문을 제출한 연구자를 적발 시 1년간 사이트 접근 및 제출을 금지하는 강력한 제재 규정을 발표했습니다. AI로 인해 조작된 인용과 허위 데이터가 담긴 논문이 기하급수적으로 증가함에 따라, 학술계의 피어 리뷰 및 출판 시스템의 신뢰성을 보호하기 위한 강력한 조치로 평가됩니다.
글로벌 프리프린트 서버인 아크라이브(Arxiv)가 AI로 생성된 논문 내용에 대한 엄격한 규제를 발표했습니다. 저자가 거짓 참고문헌이나 AI 메타 명령어 등을 검증하지 않아 명백한 흔적이 적발될 경우 1년간 제출이 금지되며, 이후에는 반드시 동료 평의를 거쳐야만 다시 논문을 올릴 수 있습니다.
최근 국제 학술지 '네이처(Nature)'가 ChatGPT가 학생의 학업 성취도와 고차원적 사고에 긍정적인 영향을 미친다는 연구 결과를 담은 논문을 메타분석의 통계적 오류 등을 이유로 전면 철회했습니다. 해당 논문은 발표 직후 40만 회 가까이 조회되며 교육 분야 AI 도입의 강력한 과학적 근거로 확산되었으나, 연구에 인용된 기존 논문들의 질이 낮고 분석 방법에 치명적인 결함이 있었다는 후속 연구에 의해 부정확한 것으로 드러났습니다.