메뉴
HN
Hacker News 8일 전

새 arXiv 논문 30% 이상이 AI가 작성한 것으로 추정됨

IMP
8/10
핵심 요약

최근 아카이브(arXiv)에 제출되는 논문 중 약 32%가 AI가 작성한 것으로 탐지되며, 컴퓨터 과학 분야는 65%에 달하는 등 분야별 편차가 큽니다. 이 연구는 ChatGPT 이전 논문들의 오탐지율(False-positive)을 엄격하게 통제하여 AI 작성 비율의 실질적인 증가를 신뢰성 있게 측정했다는 점에서 중요합니다. AI 도구가 학술 연구 작성 과정에 얼마나 깊이 스며들었는지 보여주는 핵심 지표로 활용될 수 있습니다.

번역된 본문

우리가 arXiv 전반의 AI 작성 여부를 측정한 방법, 그리고 측정의 한계점

우리는 12,750편의 arXiv 논문 전체 텍스트를 평가했으며, 새로운 논문 중 약 1/3이 기계가 작성한 것으로 읽힌다는 사실을 발견했습니다. 다음은 해당 측정 방법론, 결과, 그리고 한계점에 대한 솔직한 설명입니다.

방법론(Methodology) · 5분 분량 · 2026년

거짓 양성(False-positive)의 하한선 이른바 '현재 X의 N%가 AI입니다'라는 종류의 기사 제목이 있는데, 대부분 읽을 가치가 없습니다. 왜냐하면 그 수치 뒤에 있는 탐지기가 진짜 사람이 쓴 글의 일정 부분도 AI가 쓴 것으로 오탐지하기 때문입니다. 만약 어떤 도구가 새 논문의 40%를 기계가 쓴 것으로 분류하면서 동시에 ChatGPT가 등장하기 전에 쓴 논문의 20%도 기계가 쓴 것으로 표시한다면, 아무도 언급하지 않은 그 20%가 바로 진짜 문제입니다.

그래서 우리는 이러한 반론을 중심으로 연구를 설계했습니다. 여기에 설명된 우리의 탐지기는 학술 작문에 맞게 보정되었으며, 0.4%의 거짓 양성 비율(False-positive rate)에서 LLM 이전의 진짜 과학 텍스트의 99.6%를 통과시키고, AI가 작성한 학술 텍스트의 85%를 찾아냅니다. 우리는 이 거짓 양성 비율을 기준점(anchor)으로 삼았습니다.

ChatGPT 이전인 2021년과 2022년에 제출된 논문들을 진짜 사람이 쓴 것(ground-truth human)으로 취급하고, 이 중 정확히 0.4%만이 탐지기에 걸리도록 플래그 기준점(threshold)을 설정했습니다. 그 선이 바로 하한선(floor)입니다. 우리가 보고하는 모든 수치는, 본래의 LLM 이전 글들이 구조상 0.4%에 머물도록 설정된 기준점을 넘는 논문들의 비율입니다.

그러면 ChatGPT 이전 연도들이 기본적인 통제군(control) 역할을 합니다. 만약 이러한 증가가 탐지기가 만들어낸 인공물(오류)이라면, 2021년과 2022년의 수치도 2026년만큼 높게 나타났을 것입니다. 첫 번째 도표는 그렇지 않다는 것을 보여줍니다.

우리가 측정한 것 우리는 2023년 1월부터 2026년 7월까지 10개 분야 그룹에서 분야별로 매월 약 25편의 논문을 샘플링했으며, 2021년과 2022년의 8개 통제 달력 월(month)을 추가하여 총 12,750편의 논문을 조사했습니다.

각 논문마다 첫 번째 버전(version-1) PDF를 가져왔기 때문에, 2026년에 수정된 논문이 최신 텍스트를 2023년 슬롯으로 역유출하는 일은 없습니다. 우리는 초록(Abstract) 대신 전체 본문 텍스트를 평가했습니다. 초록은 신호를 과소평가하기 때문입니다. 우리는 동일한 논문이 초록에서는 20% 미만의 점수를, 본문에서는 70% 이상의 점수를 받는 것을 보았습니다. 보고된 모든 수치에는 부트스트랩(Bootstrap) 95% 신뢰 구간이 포함되어 있습니다.

결과(Results) 탐지된 비율은 2021년과 2022년 내내 0.4%로 평탄했으나, ChatGPT가 등장하고 몇 달 내로 급증하기 시작했으며, 두 차례의 파도를 타고 가장 최근의 완성된 분기 기준 약 32%로 치솟았고, 2026년 초에는 약 39%로 정점을 찍었습니다.

분야별 편차는 매우 크며, 이는 표와 두 번째 도표에 잘 나타나 있습니다. 아래 값들은 2026년 7월 이전 12개월 동안 각 분야에서 탐지된 비율과 LLM 도입 이전의 통제 수준을 함께 보여줍니다.

분야 그룹 | LLM 이전 통제 수준 | 최근 탐지된 비율 (95% 신뢰구간) 컴퓨터 과학 (Computer science): 0.2% / 65.0% [59.3, 70.3] 정량 생물학 (Quantitative biology): 3.5% / 56.3% [51.0, 61.7] 전기공학 및 시스템 (Electrical eng. & systems): 1.7% / 51.3% [46.0, 57.0] 경제 및 재무 (Economics & finance): 2.5% / 47.0% [41.3, 52.7] 응용 물리학 (Applied physics): 1.3% / 34.0% [29.0, 39.7] 통계학 (Statistics): 1.8% / 31.3% [26.0, 36.7] 응집 물질 물리학 (Condensed matter): 0.0% / 24.0% [19.3, 29.0] 고에너지 물리학 (High-energy physics): 0.5% / 14.0% [10.0, 18.0] 천체 물리학 (Astrophysics): 0.0% / 10.7% [7.3, 14.3] 수학 (Mathematics): 0.0% / 0.7% [0.0, 1.7]

컴퓨터 과학은 약 65%로 압도적으로 1위를 차지했습니다. 수학은 0.7% 부근으로 가장 낮았으며, 한계점 설명 부분에서 이 수치가 낮은 이유를 해석하기 어려운 점을 설명했습니다. 통제군 열은 각 분야의 2021년에서 2022년까지의 탐지율을 세 가지 민감도 설정에 따라 평균한 것입니다. 가장 많이 상승한 분야들은 LLM 이전의 통제 수준이 가장 높은 분야들이 아니므로, 높은 시작점이 이러한 급증을 설명하지는 않습니다.

한계점(Limitations) 통제군 샘플 크기. 각 분야의 ChatGPT 이전 통제군은 200개의 논문입니다. 0.4%의 탐지율에서 2,000개의 전체 통제군 논문 중 단 8개만이 탐지되며, 이는 10개 분야에 얇게 퍼져 있기 때문에 분야별 단일 기준점 통제율은 대략적입니다. 통합된 하한선은 잘 추정되었으며 연구의 기준이 되지만, 분야별 통제 수준은 단지 근사치에 불과합니다. 더 큰 통제군을 둔다고 해서 이 문제가 해결되지는 않습니다. 분야별로 1% 미만의 비율을 정확히 핀셋하려면 2023년 이전 arXiv 볼륨에 존재하지 않는 분야당 수천 개의 통제군 논문이 필요하기 때문입니다.

낮은 점수는 채택률이 낮거나 탐지기의 사각지대를 의미할 수 있습니다. 수학이 가장 명확한 사례입니다. 수학 논문은 표기법과 정리-증명 구조가 지배적이며, 일단 수식이...

원문 보기
원문 보기 (영어)
How we measured AI writing across arXiv, and where the measurement breaks We scored the full text of 12,750 arXiv papers and found that about a third of new ones read as machine-written. Here is the method, the results, and an honest account of the limitations. Methodology · 5 min read · 2026 A false-positive floor There is a genre of headline that says "N% of X is now AI," and most are not worth reading, because the detector behind the number also flags some share of genuine human writing. If a tool marks 40% of new papers as machine-written but also marks 20% of papers written before ChatGPT existed, the real story is the 20% nobody mentioned. So we built the study around that objection. Our detector, described here , is calibrated for academic writing; at a 0.4% false-positive rate it clears 99.6% of genuine pre-LLM scientific text and recovers 85% of AI academic text. We made that false-positive rate the anchor. We took papers submitted in 2021 and 2022, before ChatGPT, treated them as ground-truth human, and set the flag threshold so that exactly 0.4% of them trip it. That line is the floor. Every number we report is a share of papers above a threshold where genuine pre-LLM writing sits, by construction, at 0.4%. The pre-ChatGPT years then act as a built-in control: if the rise were an artifact of the detector, 2021 and 2022 would flag as high as 2026. The first figure shows they do not. What we measured We sampled ten field groups, roughly 25 papers per field per month, from January 2023 to July 2026, plus eight control months across 2021 and 2022, for 12,750 papers in total. For each one we pulled the version-1 PDF, so a paper revised in 2026 cannot leak modern text back into its 2023 slot. We scored the full body text instead of the abstract, because abstracts understate the signal: we have seen the same paper score under 20% on its abstract and over 70% on its body. Every reported figure carries a bootstrap 95% confidence interval. Results The flagged share is flat at 0.4% through 2021 and 2022, lifts off within months of ChatGPT, and climbs in two waves to about 32% over the most recent complete quarter, peaking near 39% in early 2026. The spread across fields is large, and it is the table and the second figure that carry it. The values below are each field's flagged share over the 12 months to July 2026, alongside its pre-LLM control level. Field group Pre-LLM control Recent flagged share 95% CI Computer science 0.2% 65.0% [59.3, 70.3] Quantitative biology 3.5% 56.3% [51.0, 61.7] Electrical eng. & systems 1.7% 51.3% [46.0, 57.0] Economics & finance 2.5% 47.0% [41.3, 52.7] Applied physics 1.3% 34.0% [29.0, 39.7] Statistics 1.8% 31.3% [26.0, 36.7] Condensed matter 0.0% 24.0% [19.3, 29.0] High-energy physics 0.5% 14.0% [10.0, 18.0] Astrophysics 0.0% 10.7% [7.3, 14.3] Mathematics 0.0% 0.7% [0.0, 1.7] Computer science leads at about 65%. Mathematics is lowest, near 0.7%, and the limitations section explains why its low value is hard to interpret. The control column is each field's 2021 to 2022 flag rate averaged over three sensitivity settings; the fields that rise most are not the ones with the highest pre-LLM control level, so an elevated starting point does not explain the rise. Limitations Control sample size. Each field's pre-ChatGPT control is 200 papers. At a 0.4% flag rate only eight papers flag across the entire 2,000-paper control, spread thinly over ten fields, so a single-threshold per-field control rate is coarse. The pooled floor is well estimated and is what the study is anchored to, but the per-field control levels are only approximate, and a larger control would not fix this: pinning a fraction-of-a-percent rate per field would require thousands of control papers per field that pre-2023 arXiv volume does not contain. A low score can indicate low adoption or a detector blind spot. Mathematics is the clearest case. Mathematics papers are dominated by notation and theorem-proof structure, and once equations and references are removed the remaining prose is sparse and unlike the scientific English the detector was trained on. A mathematics paper drafted with heavy model assistance may score low because its prose is out of distribution for the detector, so a low score in mathematics is weak evidence that a human wrote the paper. The result is consistent with two very different explanations, lower adoption or reduced detector sensitivity in that register, and this data cannot separate them. The fields with the strongest in-distribution assumption, the prose-heavy ones, are also the ones that rise most, so this confound does not account for the aggregate trend. But in the low-scoring fields the ranking should be read as a lower bound on adoption. Detector coverage. The detector is more sensitive to some generators than others, and we cannot evaluate it against the exact, private mixture of models and prompts that authors actually use. Incomplete coverage lowers the flag rate, so the reported prevalence is a lower bound: the true share is at least what we measured. The detector write-up reports the per-generator performance. A flag is not authorship. The detector estimates whether text reads as machine-written, at a calibrated probability with a known error rate. It cannot separate a lightly-edited document from a wholly-generated one, and a single score is never grounds to accuse a specific person. We report the prevalence of machine-like writing, which includes heavy AI-assisted editing. Try it The detector is cheap to run and we make no money from it. You can try it for free on any arXiv paper here , and on your own text here .