메뉴
BL
The Decoder • 55일 전

수학계를 뒤흔드는 AI: 미해결 난제 속속 풀지만 수학자들의 반응은 엇갈려

IMP
8/10
핵심 요약

최근 AI 모델들이 인간 수학자들을 수십 년간 괴롭혀온 미해결 수학 난제들을 잇달아 풀어내며 수학계에 큰 파장을 일으키고 있습니다. 많은 수학자가 AI를 연구 생산성을 극대화해주는 '황금기'의 도구로 받아들이는 반면, 일부는 자신의 전문성이 무너질지도 모른다는 실존적 위기를 느끼고 있습니다. 인간의 직관과 AI의 막대한 연산 능력이 결합하며 수학 연구의 패러다임 자체가 완전히 뒤바뀌는 변곡점에 다다른 것으로 평가됩니다.

번역된 본문

AI가 풀리지 않던 수학 난제들을 계속해서 해결하면서, 수학자들은 복잡한 심경에 빠졌다. Matthias Bastian이 작성한 이 글에 따르면, AI 모델들은 인간을 수십 년간 좌절시켰던 수학적 추측(Conjecture)들을 속속 깨뜨리고 있다. 수학계의 반응은 무관심부터 직업 자체가 쓸모없어질 수 있다는 실존적 위기감까지 다양하다.

2026년 5월, OpenAI는 '단위 거리 추측(Unit Distance Conjecture)'에 대한 반례(counterexample)를 발표하며 1946년부터 미해결 상태로 남아있던 기하학적 그래프 이론의 추측을 반박했다. 이는 헝가리의 수학자 폴 에르되시(Paul Erdos)와 관련된 수백 개의 미해결 문제 중 하나였다. AI가 이미 다른 수학 문제들을 해결하는 데 도움을 준 바 있지만, 많은 수학자들은 이 사례를 지금까지 중 가장 중요한 성과로 평가했다. 불과 일주일 뒤, 인간 연구자들은 이 증명의 핵심 기법을 응용해 또 다른 주요 추측을 반박하는 데 성공했다. 이후 폭발적인 변화가 시작되었고, 수학 분야에서 AI의 활약에 대한 소식이 끊이지 않고 있다. 모델들은 반례를 찾아내고, 더 넓은 패턴을 발견하며, 연구자들의 논리를 기계가 검증할 수 있는 증명으로 변환하는 것을 돕고 있다.

까다로운 '프론티어 수학(FrontierMath)' AI 벤치마크로 잘 알려진 연구 그룹 Epoch AI는 최근 주요 미해결 수학 문제들로 구성된 테스트인 'FrontierMath: Open Problems'의 두 번째 해결책을 발표했다. OpenAI의 새로운 아스트라(Astra) 모델 역시 이러한 작업에 맞춰 설계된 것으로 보이며, 해당 연구소는 난이도가 다양한 10개의 해결책과 함께 이 모델을 공개했다.

일부 수학자들은 이를 위협이 아닌 도구로 본다 런던 퀸 메리 대학교의 수학 교수인 아비셰크 사하(Abhishek Saha)는 X(구 트위터)에 다음과 같이 적었다. "현재 제 연구 분야에서 최첨단 AI 모델들은 적어도 실력 있고 지치지 않는 박사과정 학생만큼의 능력을 보여줍니다." 사하 교수는 예전이라면 몇 주가 걸렸을 일상적인 연구 작업에 GPT-5.5 Pro를 사용하며 하루 종일 시간을 보냈다. 그는 이 경험을 통해 자신이 "오케스트라 전체를 연주하는 대신 지휘자 역할을 하게 되었다"고 말했다. 그는 대부분의 수학자들이 이것이 이미 가능해졌다는 사실을 깨닫지 못하고 있으며, 이에 대응하는 방식에 따라 학계가 양분될 것으로 예상했다. 그는 "일부는 빠르게 적응하여 무한한 가능성을 찾을 것"이라고 적었다. 반면 다른 학자들은 끝까지 거부할 것이라고 덧붙이며, "다른 학계의 사람들은 미국의 전설적인 영웅 존 헨리(John Henry)처럼 끝까지 AI를 의심할 것"이라고 말했다. 민담의 영웅 존 헨리는 증기 기관 드릴과의 대결에서 승리하기 위해 스스로를 죽도록 일하게 만든 인물이다. 사하 교수는 자신의 분야가 공격받고 있다기보다는 AI를 생산성 도구로 취급하는 연구자들의 부류를 대변하고 있다.

황금기는 오래가지 않을 수 있다 수학자인 트레포 바제트(Trefor Bazett)는 더 컨버세이션(The Conversation)과의 인터뷰에서 AI와 인간의 창의성이 결합하여 수학의 새로운 황금기를 열 수 있다고 밝혔다. 그는 카네기멜론 대학교(Carnegie Mellon University) 수학자 팀이 SAT 솔버, 대형 언어 모델이 생성한 코드, 형식적 증명 검증을 결합하여 램지 이론(Ramsey theory)의 미해결 문제를 해결한 2026년 4월의 논문을 예로 들었다. 이 논문은 필즈상 수상자인 티모시 가워스(Timothy Gowers)가 2000년에 예측했던 '황금기'와 결과를 명시적으로 연결했다. 가워스는 컴퓨터가 수학자들이 더 깊은 아이디어에 집중하는 동안 일상적인 검토 작업을 처리할 것이라고 상상했다. 그는 "다시 말해, 컴퓨터가 여전히 우리를 위해 지루한 작업을 해줄 것이지만, 지금보다는 그다지 지루하지는 않을 것"이라고 적었다. 카네기멜론 대학교 연구진은 그 시기가 바로 지금 시작되었다고 믿는다. 그들은 "여러 기술의 결합 덕분에 우리가 바로 이 황금기에 진입하고 있다고 믿는다"고 밝혔다.

하지만 가워스는 이 시기가 오래 지속되지 않을 것으로 예상했다. "하지만 만약 그러한 황금기가 온다 하더라도, 오래 지속될 가능성은 희박합니다." 그는 "다음 세기 동안 컴퓨터가 정리(theorem)를 증명하는 데 충분히 능숙해져 순수 수학 연구라는 실제 관행이 완전히 혁신될 것"이라고 예측했다. 그의 예측이 현실로 다가오고 있는 지금, 가워스는 복잡한 감정을 느끼고 있다. 그는 두 차례에 걸쳐 자신이 상당한 시간을 들여 연구했던 문제를 GPT 5.6 Pro가 첫 번째 시도 만에 풀어버렸다고 전했다. 그는 "그 기분은 매우 이상했고, 결코 유쾌하지 않았다"고 털어놓았다.

원문 보기
원문 보기 (영어)
AI keeps cracking unsolved math problems, and mathematicians have mixed feelings Matthias Bastian View the LinkedIn Profile of Matthias Bastian Aug 1, 2026 Nano Banana Pro prompted by THE DECODER AI models are cracking conjectures that stumped humans for decades. Reactions in the math community range from shrugs to an existential crisis as the profession grapples with its own possible obsolescence. In May 2026, OpenAI published a counterexample to the "Unit Distance Conjecture," disproving a conjecture in geometric graph theory that had remained open since 1946. It was one of hundreds of open problems linked to Hungarian mathematician Paul Erdos . AI had already helped solve other math problems, including other Erdos problems, but many mathematicians considered this the most significant example yet. Just one week later, human researchers adapted the core proof technique and used it to disprove another major conjecture . Since then, the floodgates have been open, and barely a day goes by without more news about AI in mathematics . Models are finding counterexamples, spotting broader patterns, and helping researchers turn arguments into machine-checkable proofs. Epoch AI, the research group best known for its demanding "FrontierMath" AI benchmark , recently announced the second solution in "FrontierMath: Open Problems," a test drawn from major unsolved questions in math. OpenAI's new Astra model also appears designed for this work: The lab introduced it with ten solutions of varying difficulty. Some mathematicians see a tool, not a threat Abhishek Saha, a math professor at Queen Mary University of London, writes on X , "At the moment, in my area of research mathematics, frontier AI models are at least as good as a solid and indefatigable PhD student." Saha spent a full day using GPT-5.5 Pro for routine work that would previously have taken weeks. The experience left him "increasingly playing the role of conductor, rather than doubling up as the whole orchestra." Saha said most mathematicians don't realize this is already possible, and he expects the field to split over how it responds. "Some will adapt soon, and find boundless possibilities," he wrote. He expects others to resist, adding, "Other academics will continue to be AI-sceptical until the very end, like the folklore hero John Henry." The American folk hero worked himself to death competing against a steam drill. Saha represents a group of researchers who treat AI as a productivity tool rather than an attack on their field. A golden age may not last Writing in The Conversation , mathematician Trefor Bazett says AI and human ingenuity could usher in a new golden age of mathematics. He cites an April 2026 paper from a team of Carnegie Mellon University mathematicians that solved an open problem in Ramsey theory by combining SAT solvers, code generated by language models, and formal proof verification. The paper explicitly connects that result to a "golden age" that Fields Medal winner Timothy Gowers predicted in 2000 . Gowers imagined computers handling routine checks while mathematicians focused on deeper ideas. "In other words, computers would still do the boring bits for us, but these would not be quite as boring as they are now," he wrote. The Carnegie Mellon researchers believe that period has now begun. "We believe that we are now entering this golden age, thanks to the combination of several technologies," they write. But Gowers didn't expect it to last. "However, such a golden age, if it occurs, is unlikely to last for long." He predicted that "during the next century computers will become sufficiently good at proving theorems that the practice of pure mathematical research will be completely revolutionized." Now that his prediction is starting to come true, Gowers has mixed feelings. He says that on two occasions, GPT 5.6 Pro solved a problem on its first attempt after he had spent considerable time working on it. "It felt very strange and not particularly pleasant to have the rug pulled out from under my feet like that," he writes on his blog , though he was still glad to see the problems solved. What worries him most is the "possible destruction of mathematical culture." If fewer people spend years developing deep expertise, he fears the math literature could expand enormously within a decade or two while no human community remains that truly understands it. Gowers raised these concerns in a post about the Leiden Declaration on Artificial Intelligence and Mathematics , an effort to define standards for AI's use in the field. More than 3,000 mathematicians have signed the declaration, which is backed by the International Mathematical Union. Rather than rejecting AI, it calls for transparency when researchers use AI tools, protection of authors' rights, and continued human responsibility for mathematical results. Gowers hasn't signed it, but he broadly supports it. The hardest problems remain out of reach That burst of progress doesn't mean AI can solve everything. According to Bazett, AI performs far better in some areas of math than in others. Fields such as graph theory have proven especially well suited to machine-generated proofs, while others remain resistant. For every problem AI solves, many more remain beyond its reach. Epoch AI's benchmark puts numbers behind those limits. In the two hardest categories, "Major Advance" and "Breakthrough," AI has yet to solve a single problem. The six remaining Millennium Prize Problems , each carrying a $1 million prize from the Clay Mathematics Institute, remain as far out of reach for AI as they are for humans. OpenAI's Astra couldn't solve them either, though OpenAI researcher Noam Brown believes more computing power could change that. Bazett says students who spend years developing their math skills have understandable reasons to worry that AI could replace human researchers. But he adds, "Thankfully, we're not close to that yet." Proof overload could redefine mathematicians' role Mathematician Terence Tao laid out a cautiously optimistic view in his talk at the 2026 International Congress of Mathematicians . He compares the current period to the foundational crisis of the early 20th century, when paradoxes and incompleteness theorems forced mathematicians to reexamine the field's basic assumptions. That crisis ultimately gave mathematics stronger foundations. Tao believes the field is now entering a similarly turbulent period that will force it to rethink its values and working methods. If AI can take over a large share of research tasks, mathematicians can't focus only on solving as many open problems as possible. Proofs must also be checked, explained clearly, understood by other mathematicians, and eventually incorporated into textbooks and broader theories. Tao warns that proof scarcity could give way to proof overload, with results arriving faster than people can review and process them. That would still leave mathematicians with a lasting role. The math community would need to decide which results matter, how they should be presented, and what goals research should pursue. Tao believes answering those questions could leave mathematics stronger and better prepared for future changes. Tao's view of AI has changed over the years. He moved from an initially skeptical position to a pragmatic but still cautious approach to the technology. As early as 2023, he thought reliable and adaptable AI tools were possible. He also predicted that AI could become a reliable coauthor in mathematical research by 2026 . That prediction proved accurate. In October 2025, Tao described how he used ChatGPT in a step-by-step exchange to calculate numerical values for a math problem and write the corresponding Python code. He said it saved him several hours of manual work. Tao sees language models mainly as useful tools that could eventually industrialize mathematics and more complex problems would still require humans and AI to work together . Some mathemat