새 arXiv 논문 30% 이상이 AI가 작성한 것으로 추정됨
최근 아카이브(arXiv)에 제출되는 논문 중 약 32%가 AI가 작성한 것으로 탐지되며, 컴퓨터 과학 분야는 65%에 달하는 등 분야별 편차가 큽니다. 이 연구는 ChatGPT 이전 논문들의 오탐지율(False-positive)을 엄격하게 통제하여 AI 작성 비율의 실질적인 증가를 신뢰성 있게 측정했다는 점에서 중요합니다. AI 도구가 학술 연구 작성 과정에 얼마나 깊이 스며들었는지 보여주는 핵심 지표로 활용될 수 있습니다.
우리가 arXiv 전반의 AI 작성 여부를 측정한 방법, 그리고 측정의 한계점
우리는 12,750편의 arXiv 논문 전체 텍스트를 평가했으며, 새로운 논문 중 약 1/3이 기계가 작성한 것으로 읽힌다는 사실을 발견했습니다. 다음은 해당 측정 방법론, 결과, 그리고 한계점에 대한 솔직한 설명입니다.
방법론(Methodology) · 5분 분량 · 2026년
거짓 양성(False-positive)의 하한선 이른바 '현재 X의 N%가 AI입니다'라는 종류의 기사 제목이 있는데, 대부분 읽을 가치가 없습니다. 왜냐하면 그 수치 뒤에 있는 탐지기가 진짜 사람이 쓴 글의 일정 부분도 AI가 쓴 것으로 오탐지하기 때문입니다. 만약 어떤 도구가 새 논문의 40%를 기계가 쓴 것으로 분류하면서 동시에 ChatGPT가 등장하기 전에 쓴 논문의 20%도 기계가 쓴 것으로 표시한다면, 아무도 언급하지 않은 그 20%가 바로 진짜 문제입니다.
그래서 우리는 이러한 반론을 중심으로 연구를 설계했습니다. 여기에 설명된 우리의 탐지기는 학술 작문에 맞게 보정되었으며, 0.4%의 거짓 양성 비율(False-positive rate)에서 LLM 이전의 진짜 과학 텍스트의 99.6%를 통과시키고, AI가 작성한 학술 텍스트의 85%를 찾아냅니다. 우리는 이 거짓 양성 비율을 기준점(anchor)으로 삼았습니다.
ChatGPT 이전인 2021년과 2022년에 제출된 논문들을 진짜 사람이 쓴 것(ground-truth human)으로 취급하고, 이 중 정확히 0.4%만이 탐지기에 걸리도록 플래그 기준점(threshold)을 설정했습니다. 그 선이 바로 하한선(floor)입니다. 우리가 보고하는 모든 수치는, 본래의 LLM 이전 글들이 구조상 0.4%에 머물도록 설정된 기준점을 넘는 논문들의 비율입니다.
그러면 ChatGPT 이전 연도들이 기본적인 통제군(control) 역할을 합니다. 만약 이러한 증가가 탐지기가 만들어낸 인공물(오류)이라면, 2021년과 2022년의 수치도 2026년만큼 높게 나타났을 것입니다. 첫 번째 도표는 그렇지 않다는 것을 보여줍니다.
우리가 측정한 것 우리는 2023년 1월부터 2026년 7월까지 10개 분야 그룹에서 분야별로 매월 약 25편의 논문을 샘플링했으며, 2021년과 2022년의 8개 통제 달력 월(month)을 추가하여 총 12,750편의 논문을 조사했습니다.
각 논문마다 첫 번째 버전(version-1) PDF를 가져왔기 때문에, 2026년에 수정된 논문이 최신 텍스트를 2023년 슬롯으로 역유출하는 일은 없습니다. 우리는 초록(Abstract) 대신 전체 본문 텍스트를 평가했습니다. 초록은 신호를 과소평가하기 때문입니다. 우리는 동일한 논문이 초록에서는 20% 미만의 점수를, 본문에서는 70% 이상의 점수를 받는 것을 보았습니다. 보고된 모든 수치에는 부트스트랩(Bootstrap) 95% 신뢰 구간이 포함되어 있습니다.
결과(Results) 탐지된 비율은 2021년과 2022년 내내 0.4%로 평탄했으나, ChatGPT가 등장하고 몇 달 내로 급증하기 시작했으며, 두 차례의 파도를 타고 가장 최근의 완성된 분기 기준 약 32%로 치솟았고, 2026년 초에는 약 39%로 정점을 찍었습니다.
분야별 편차는 매우 크며, 이는 표와 두 번째 도표에 잘 나타나 있습니다. 아래 값들은 2026년 7월 이전 12개월 동안 각 분야에서 탐지된 비율과 LLM 도입 이전의 통제 수준을 함께 보여줍니다.
분야 그룹 | LLM 이전 통제 수준 | 최근 탐지된 비율 (95% 신뢰구간) 컴퓨터 과학 (Computer science): 0.2% / 65.0% [59.3, 70.3] 정량 생물학 (Quantitative biology): 3.5% / 56.3% [51.0, 61.7] 전기공학 및 시스템 (Electrical eng. & systems): 1.7% / 51.3% [46.0, 57.0] 경제 및 재무 (Economics & finance): 2.5% / 47.0% [41.3, 52.7] 응용 물리학 (Applied physics): 1.3% / 34.0% [29.0, 39.7] 통계학 (Statistics): 1.8% / 31.3% [26.0, 36.7] 응집 물질 물리학 (Condensed matter): 0.0% / 24.0% [19.3, 29.0] 고에너지 물리학 (High-energy physics): 0.5% / 14.0% [10.0, 18.0] 천체 물리학 (Astrophysics): 0.0% / 10.7% [7.3, 14.3] 수학 (Mathematics): 0.0% / 0.7% [0.0, 1.7]
컴퓨터 과학은 약 65%로 압도적으로 1위를 차지했습니다. 수학은 0.7% 부근으로 가장 낮았으며, 한계점 설명 부분에서 이 수치가 낮은 이유를 해석하기 어려운 점을 설명했습니다. 통제군 열은 각 분야의 2021년에서 2022년까지의 탐지율을 세 가지 민감도 설정에 따라 평균한 것입니다. 가장 많이 상승한 분야들은 LLM 이전의 통제 수준이 가장 높은 분야들이 아니므로, 높은 시작점이 이러한 급증을 설명하지는 않습니다.
한계점(Limitations) 통제군 샘플 크기. 각 분야의 ChatGPT 이전 통제군은 200개의 논문입니다. 0.4%의 탐지율에서 2,000개의 전체 통제군 논문 중 단 8개만이 탐지되며, 이는 10개 분야에 얇게 퍼져 있기 때문에 분야별 단일 기준점 통제율은 대략적입니다. 통합된 하한선은 잘 추정되었으며 연구의 기준이 되지만, 분야별 통제 수준은 단지 근사치에 불과합니다. 더 큰 통제군을 둔다고 해서 이 문제가 해결되지는 않습니다. 분야별로 1% 미만의 비율을 정확히 핀셋하려면 2023년 이전 arXiv 볼륨에 존재하지 않는 분야당 수천 개의 통제군 논문이 필요하기 때문입니다.
낮은 점수는 채택률이 낮거나 탐지기의 사각지대를 의미할 수 있습니다. 수학이 가장 명확한 사례입니다. 수학 논문은 표기법과 정리-증명 구조가 지배적이며, 일단 수식이...