수학에서의 AI 목표 불일치
수학자들이 AI 기업의 수학 문제 풀이 경쟁을 비판하며 나섰습니다. LLM의 수학 능력이 비약적으로 향상되었지만, 문제 풀이는 개념적 이해라는 본래 목적을 위한 도구일 뿐인데 AI 기업들은 벤치마크 성과에만 몰두해 수학 공동체의 가치와 심각하게 어긋난다는 지적입니다. 이는 학생과 아이디어를 보살피는 지식 노동 전반에 대한 위협이기도 합니다.
지난 몇 달간 LLM(대규모 언어 모델)의 수학적 능력은 극적으로 향상되어, 수학의 여러 분야에서 오랫동안 풀리지 않던 중요한 문제들을 해결할 수 있는 수준에 이르렀습니다. 그러나 AI 기업들이 벤치마크를 목적으로 수학 문제를 풀려는 경쟁은 수학이라는 학문과 수학자 공동체에 해롭습니다. AI 기업들의 목표와 수학 공동체의 목표는 심각하게 어긋나 있습니다. 우리는 이러한 문제를 다른 과학 및 창작 분야, 그리고 사회 전체에 영향을 미치는 더 광범위한 정렬(alignment) 문제의 일부로 봅니다.
연구 수학은 도형, 수, 자연현상의 기본 구조를 이해하는 학문입니다. 수 세대에 걸쳐 수학은 수학적 지형을 이해하기 위한 정교한 아이디어, 방법론, 추상화 등 방대한 지식의 집적체를 만들어왔습니다. 그리고 현대의 기술과 과학은 이러한 수학적 도구 위에 세워져 있습니다. 유명한 문제들은 흔히 이 지형에 대한 이해가 깊어졌음을 측정할 수 있는 이정표이자 등대 역할을 해왔습니다. 이러한 문제들 중 하나를 푸는 것은 새로운 통찰과 흥미로운 방법론이 등장했음을 보여주는 확실한 신호였으며, 그 결과는 강연, 토론, 단순화라는 길고 험난한 과정을 거치며 수학자 공동체에 의해 연구되었습니다. 이 과정의 끝에서 이상적으로는 대학원생은 물론 학부생도 공부할 수 있는 교과서 수준의 서술이 완성됩니다. 일부 수학적 아이디어는 그 여정을 더욱 더 나아가, 수십 년 혹은 수백 년 후에는 사회 전체가 이해하고 사용하는 도구가 되기도 합니다.
수학 공동체는 여러 면에서 인류의 축소판처럼 작동합니다. 다양한 접근 방식을 취하는 개인들이 핵심 가치로 묶여 있는 공동체입니다. 우리 직업의 가장 소중한 자원은 학생과 아이디어이며, 이를 우리는 각별히 보삐핍니다. 우리는 이들이 수학적 세계에서 스스로의 삶을 살아갈 수 있을 때까지 잠재력을 최대한 발휘하도록 책임감을 느낍니다. 학생들에게는 연구와 그 외 분야의 발전에 유리한 위치에 서도록 기술을 기르는 것을 핵심 의도로 하여 문제를 제안합니다. 우리의 아이디어는 강연, 개인적 토론, 정성 들인 논문을 통해 전파하며, 타인의 기존 아이디어와 연결합니다. 이러한 과정은 필연적으로 시간이 걸리며 인간 간의 상호작용에 기반합니다.
최근 몇 달간 주요 수학 문제 해결에서 거둔 AI의 성공은 수학계 밖에서도 헤드라인을 장식했습니다. 그러나 문제 풀이는 궁극적인 목표인 개념적 이해와 통찰을 달성하기 위한 도구이자 대리 지표일 뿐입니다. AI의 세계에서 이를 잊으면 도구가 본래 목표를 배반할 수 있습니다. 실제로 점점 더 빠른 속도로 '참/거짓' 명제를 대량 생산하는 것은 새로운 아이디어에 생명을 불어넣는 대신 비옥한 토양을 파괴할 수 있습니다. 이러한 해법들은 종종 서두르게 발표되어, 제대로 된 논문 작성, 새로운 방법과 아이디어의 분리, 관련 선행 연구에 대한 인용을 할 시간적 여유가 없습니다. 모든 창작 분야와 마찬가지로 이는 심각한 저작권 귀속과 표절 문제를 야기합니다. 게다가 자신의 발전과 수학 정전(canonical knowledge)으로의 통합을 돌봐줄 수학자들이 자발적으로 나서지 않는다면, AI가 만들어낸 아이디어는 결코 온전히 살아있는 것이 될 수 없으며 수학자들 사이의 결정적인 인간적 전수 사슬이 끊어지게 될 것입니다.
우리는 AI 사용의 결과와 그 초기 목적 사이의 불일치라는 지적 노동에 대한 일반적인 위협을 목격하고 있습니다. 많은 분야와 활동에서 수년간의 훈련은 단순히 최종 답안이나 산출물을 만들어내는 것뿐 아니라 이해력과 새로운 질문과 아이디어를 공식화할 능력을 기르기 위한 것이었습니다. 그러나 방대한 인간의 선행 작업 위에 기반하여 AI 시스템은 그러한 작업의 결과물을 직접 생산할 수 있는 능력이 점점 더 강해지고 있으며, 이제 이 두 목표는 일치하지 않게 되었습니다. 수학 공동체가 지금 직면한 문제는 다른 과학 분야들이 직면한 문제들과 유사합니다.