수학을 대신하는 AI, '수학자의 존재 이유'를 묻다
최근 AI가 수학적 증명과 탐구 과정에 깊이 개입하기 시작하면서, 수학자의 역할과 이 분야의 미래에 대한 근본적인 논쟁이 촉발되고 있습니다. 단순히 연산을 넘어선 AI는 수학 연구의 방식을 근본적으로 바꿀 잠재력을 지녔으며, 인간 수학자의 고뇌와 사유 과정조차 대체할 수 있을지에 대한 철학적 질문을 던지고 있습니다. 이는 단순한 기술 발전을 넘어, 학문적 본질과 인간 지성의 가치를 재정의하는 중요한 이슈입니다.
원문 제목: AI in mathematics is forcing big questions 소스: hackernews
AI 매거진 특집: AI가 수학을 대신할 때 수학자라는 존재는 무엇을 의미하는가? 연구자들은 이 분야의 미래, 동기, 그리고 목적에 대해 토론한다. Benjamin Skuse, 2026년 6월 25일, 읽는 데 10분 소요.
캘리포니아 대학교 로스앤젤레스(UCLA)의 테렌스 타오(Terence Tao)는 AI가 인간과 기계가 복잡한 문제를 함께 다루는 '빅 매스매틱스(Big Mathematics, 거대 수학)' 시대를 열 수 있다고 믿는다.
2000년대 중반, 내가 지나가는 모든 펍과 나이트클럽마다 더 킬러스(The Killers)와 프란츠 페르디난드(Franz Ferdinand)의 음악이 요란하게 흘러나오던 시절, 나는 응용수학 박사과정을 밟으며 밤낮없이 씨름하고 있었다. 내 연구는 특수한 빛의 파동이 액정 내에서 어떻게 상호작용하는지 시뮬레이션하고, 간단한 방정식을 사용해 그 상호작용을 근사하고 이해하는 데 집중했다.
이제 와서 내 박사 논문을 돌아보면, 액정 기술은 이미 구식이 되었으며 오늘날에는 AI의 도움을 빌려 내 연구를 며칠, 어쩌면 몇 시간 만에 끝낼 수도 있을 것 같다. 하지만 내가 에든버러 대학교에서 좁은 사무실을 함께 썼던 순수수학 박사과정 학생들의 작업에 대해서는 같은 말을 할 수 없다.
당시 나는 매일 책상에 앉아 머리를 쥐어뜯는 듯했고 아무런 진전이 없어 보이던 이 동료들이 안타까웠다. (비록 나도 어려움을 겪고 있었지만, 나는 적어도 항상 약간의 진전은 보이고 있었다.) 우리가 학위를 마치고 각자의 길을 갈 때, 일부 동료들은 논문조차 출판하지 못한 상태였다.
이제 와서 돌아보니, 나는 그들이 전 세계에서 소수의 사람들만 관심을 가질 법한 추상적인 수학 문제를 두고 왜 수년 동안 고군분투했는지 마침내 이해하게 되었다. 그것은 내가 당시에 생각했던 것처럼 오만이 아니었다. 즉, 그들은 풀기 힘든 수학 문제를 가장 먼저 해결함으로써 자신의 뛰어난 지능을 증명하려는 것이 아니었다. 그것은 내가 두 번째로 추측했던 자학(가상의 열등감에 대한 속죄) 또한 아니었다.
나는 그들이 이해를 향해 가는 긴 여정 그 자체에서 기쁨, 만족, 그리고 의미를 이끌어냈다는 것을 깨달았다.
"때로는, 무언가를 이해했다는 사실이 매우 아름답게 느껴지기도 합니다." — 카네기 멜런 대학교, 제레미 아비가드(Jeremy Avigad)
카네기 멜런 대학교의 수학자 제레미 아비가드는 회상하듯 말한다. "때로는 무언가를 이해했다는 사실이 매우 아름답게 느껴지기도 합니다. 때로는 마라톤을 완주한 것 같은 성취감이 들기도 하죠. 하지만 둘 중 어느 쪽과도 조금 다릅니다. 복잡하고 어려운 무언가에 대해 오랫동안 깊이 생각하다가, 갑자기 모든 것이 하나로 딱 맞아떨어질 때의 그 기분은 정말 경이롭습니다."
이러한 감정이 역사상 수많은 수학자들을 이끌어왔다. 마찬가지로 수학자들이 그 느낌을 추구하는 방식은 수세기 동안 거의 변하지 않았다. 그들은 숫자, 모양 또는 논리적 구조에서 연결고리, 패턴, 또는 속성을 발견하거나 상상한다. 이를 바탕으로 그들은 추측(Conjecture), 즉 입증되지 않은 자신의 가설을 작성한다. 그런 다음 그들 또는 다른 수학자들이 논리적 추론과 수학적 도구를 종종 창의적인 방식으로 사용하여 그러한 추측을 증명하거나 반증한다. 마지막으로 또 다른 수학자들이 그 증명을 검증(또는 반박)한다. 필연적으로 이 과정에는 엄청난 양의 사고 시간이 필요하다.
버몬트 대학교에서 곧 박사 학위를 취득할 수학자 겸 컴퓨터 과학자인 크리스탈 모건(Krystal Maughan)은 말한다. "저는 순수수학 캠프에 참가했는데, 수업 시간에 어려운 수학 문제를 놓고 30분 동안 아무도 말 없이 앉아 있는 경우도 있었습니다. 모두 그냥 생각하는 거죠. 하지만 그 다음에는 함께 협력하면서 문제를 조금씩 풀어나갔습니다."
이것이 바로 현장에서 실현되는 수학의 오랜 기쁨이다. 하지만 오늘날의 AI 시스템은 이 느리고 숙고하는 과정을 건너뛰는 방향으로 빠르게 발전하고 있다. 이러한 추세를 논리적 결론까지 밀어붙인다면, 만약 AI가 수학자들의 고군분투를 완전히 불필요하게 만든다면 어떤 일이 일어날까? AI가 인간을 수학 연구의 중심에서 완전히 밀어낼 수도 있을까?
수학에서 AI의 역할 확장 지난 수십 년 동안 컴퓨터 연산은 수학적 진전을 가속화해 왔다. 이는 50년 전 수학자들이 컴퓨터를 사용해 '4색 정리(Four-color theorem)'를 증명하면서 시작되었다. 이 정리는 인접한 영역이 같은 색을 공유하지 않도록, 4가지 색상 이내로 어떠한 지도든 칠할 수 있는지를 묻는 문제다. 그 해답은 '그렇다'였으며, th...