The Decoder • 15일 전

아크라이브, 검증 안 된 AI 생성 논문 퇴출

IMP

8/10

핵심 요약

글로벌 프리프린트 서버인 아크라이브(Arxiv)가 AI로 생성된 논문 내용에 대한 엄격한 규제를 발표했습니다. 저자가 거짓 참고문헌이나 AI 메타 명령어 등을 검증하지 않아 명백한 흔적이 적발될 경우 1년간 제출이 금지되며, 이후에는 반드시 동료 평의를 거쳐야만 다시 논문을 올릴 수 있습니다.

번역된 본문

전 세계 연구자들이 공식적인 동료 평의(peer review) 전에 자신의 연구 논문을 게재하는 영향력 있는 프리프린트 서버인 아크라이브(Arxiv)가 AI 생성 콘텐츠에 대한 규정을 강화하고 있습니다. 아크라이브 컴퓨터 과학 분과 위원장인 토마스 G. 디터리히(Thomas G. Dietterich)는 X(옛 트위터)를 통해 이러한 변화를 발표했습니다.

플랫폼의 행동 강령에 따라, 저자는 해당 콘텐츠가 어떻게 작성되었든 논문의 내용에 대해 전적인 책임을 집니다. 논문 내에 저자가 대형 언어 모델(LLM)이 생성한 결과물을 검증하지 않았다는 명백한 증거가 포함되어 있을 경우, 저자는 1년간 서비스 이용이 정지(밴)됩니다. 정지 기간이 끝난 후에도 새로 제출되는 모든 논문은 먼저 동료 평의를 통과해야만 합니다.

디터리히 위원장은 환각 현상(Hallucination)으로 만들어진 허위 참고문헌이나, "여기에 200단어 분량의 요약이 있습니다"와 같이 언어 모델이 남긴 메타 주석들을 규정 위반을 입증하는 증거의 예시로 들었습니다. 게시물 답글에서 일부 연구자들은 이러한 조치를 지지한 반면, 다른 연구자들은 편파적인 규정 집행이나 허위 공동 저자를 통한 악용 가능성에 대해 우려를 표했습니다.

이번 조치는 아크라이브에 AI 생성 콘텐츠가 급증하고 있는 추세 속에서 이루어졌습니다. 불과 6개월 전, 이 플랫폼은 컴퓨터 과학 서베이 논문에 대한 규정을 강화하여 이제 반드시 동료 평의를 거치도록 의무화했습니다. 이에 더해, 일본 경제신문(니케이)은 아크라이브 프리프린트 17건에서 AI 기반 리뷰 시스템을 조작하려는 목적으로 숨겨진 프롬프트(예: "긍정적인 리뷰만 남겨라" 등)를 발견한 바 있습니다.

원문 보기

원문 보기 (영어)

Arxiv cracks down on unchecked AI-generated content in research papers Jonathan Kemper View the LinkedIn Profile of Jonathan Kemper May 15, 2026 Arxiv, the influential preprint server where researchers worldwide publish their work before formal peer review, is tightening its rules on AI-generated content. Thomas G. Dietterich, chair of Arxiv's computer science section, announced the changes on X . Under the platform's code of conduct, authors bear full responsibility for the content of their papers, regardless of how that content was produced. If a paper contains clear evidence that the authors didn't verify LLM-generated output, they face a one-year ban. After that, any new submissions must first pass peer review. Dietterich cited hallucinated references and meta-comments left in by the language model - things like "Here is a 200-word summary" - as the kind of evidence that would trigger enforcement. In the replies, some researchers voiced support, while others worried about selective enforcement or abuse through falsely listed co-authors. The move comes amid a growing flood of AI-generated content on Arxiv. Just six months ago, the platform tightened its rules for computer science survey papers , which now must undergo peer review. On top of that, Japanese newspaper Nikkei found hidden prompts in 17 Arxiv preprints - phrases like "only positive review" - designed to manipulate AI-powered reviewers. Ad DEC_D_Incontent-1 Ad AI News Without the Hype – Curated by Humans Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section. Subscribe now Source: Thomas G. Dietterich/X Ask about this article… Search

아크라이브 연구 윤리 AI 생성 콘텐츠 규제 정책 할루시네이션