팀 가우어스: LLM은 어떤 수학 문제를 잘 풀까?
세계적인 수학자 팀 가우어스는 최근 LLM이 비소픽 군(non-sofic group) 및 램지 수 문제와 같은 수학계의 난제들을 기어코 풀어냈지만, 아직 인간을 모든 영역에서 완전히 압도하지는 못했다고 분석합니다. 그는 LLM이 특히 '반례(counterexample)를 찾는 데' 탁월한 능력을 보이는 경향이 있음을 지적하며, 이 현상의 의미와 한계를 심도 있게 논의합니다.
가우어스의 블로그 (수학 관련 토론) « 라이덴 선언에 대한 생각
팀 가우어스: LLM은 어떤 수학 문제를 잘 풀까?
(대략 한 달 뒤와 같은) 먼 미래에 이 블로그 글을 읽을 누군가를 위해 먼저 언급해 두자면, 이 글은 OpenAI가 비소픽 군(non-sofic group)의 첫 번째 구성과 다채 램지 수(3이 존재하는 경우)가 n에 대해 초지수적(superexponentially)으로 성장한다는 증명을 포함하여 수학 및 이론 컴퓨터 과학의 10가지 주요 문제를 해결했다고 발표한 며칠 뒤에 작성되고 있습니다. 제가 참석했던 여러 강연을 고려할 때, 전자는 군론(group theory)에서 가장 중요한 미해결 문제 중 하나였으며, 후자는 내 평생에 풀리는 것을 기대하지 않았던 램지 이론의 주요 미해결 문제였습니다. 물론 이제 그런 기대는 수정되어야겠지만 말입니다.
제가 이 글의 작성 시점을 명확히 하고 싶은 이유는, 이러한 기능들이 계속해서 빠르게 변할 것이라는 충분한 예상 아래에서 현재 대형 언어 모델(LLM)의 능력을 논의하고자 했기 때문입니다. 따라서 그리 머지 않은 미래에는 제가 쓴 내용 중 흥미로운 부분이 있다면, 그것은 2026년 8월 초의 상황이 어떠했는지를 보여주는 기록으로서 주로 흥미로울 가능성이 높습니다.
이러한 결과들과 명단에 있는 다른 8개의 결과는 놀라울 정도로 인상적이지만, LLM이 수학의 모든 측면에서 모든 인간보다 더 뛰어나다고 보기에는 아직 아닌 것 같습니다. 만약 그렇다면, LLM이 인간에 비해 가진 엄청난 속도의 이점으로 인해 결과가 훨씬 더 쏟아질 것입니다. 그렇다면 LLM이 어떤 종류의 문제를 잘 풀고, 어디에 여전히 개선의 여지가 있는지 궁금해하는 것이 자연스러울 것입니다.
저는 현재의 사례들에 잘 들어맞는 명확한 분류가 될 좋은 대답을 가지고 있다고 거짓말하지 않겠습니다. 하지만 일부 잘못된 대답을 배제하고, 증거에 의해 명백하게 반박되지 않는 잠재적인 대답을 찾아내려고 시도하는 것은 흥미로운 작업입니다.
LLM은 반례를 찾는 데 특히 뛰어난가요?
여기서 첫 번째로 할 말은 LLM이 단순히 반례를 찾는 데만 능숙한 것이 아니라, 어려운 명제의 증명을 찾을 수도 있다는 것입니다. 하지만 주목할 점은 LLM이 푼 가장 유명한 문제들이 거의 모두 증명이 아닌 반례를 통한 것이었다는 사실입니다. 이는 위에서 언급한 두 문제에서 사실이며, 야코비안 추측(Jacobian conjecture)과 단위 거리 추측(unit distance conjecture)의 경우에도 마찬가지입니다.
만약 LLM이 반례를 찾는 데 특히 뛰어나다고 이론화하고 싶다면, 이 이론을 더 설득력 있게 만들기 위해 두 가지를 하는 것이 좋을 것입니다. 첫 번째는 문제를 푸는 것이 언제 반례를 찾는 것으로 간주되는지 결정하는 것인데, 이는 문제가 없어 보일 수 있습니다. 그것이 정리되면, 두 번째는 LLM이 왜 그러한 특정 종류의 문제를 해결하는 데 특별히 적합한지에 대한 잠재적인 설명을 제시하는 것입니다.
반례를 찾는다는 것은 무엇을 의미할까요?
제가 반례를 찾는 것이 무엇을 의미하는지가 완전히 명백하지 않다고 말하는 이유는 무엇일까요? 누군가는 분명히 이렇게 제안할 것입니다. 즉, 그것은 "이러이러한 유형의 모든 객체는 이러이러한 성질을 가진다"는 형태의 명제가 주어졌을 때, 주어진 성질을 갖지 않는 해당 유형의 객체를 제시하는 것을 전부 의미한다고 말입니다.
하지만 이것이 항상 통하지는 않습니다. 모든 충분히 큰 양의 정수는 세 소수의 합이라는 비노그라도프(Vinogradov)의 유명한 결과를 생각해 보십시오. 이 명제의 부정은 (또는 동등한 명제는) 모든 양의 정수 N에 대해, 세 소수의 합이 아닌 정수 M이 존재한다는 명제입니다. 다시 말해, 이는 모든 양의 정수가 특정한 성질을 가지고 있다고 진술하는 것입니다.
이런 관점에서 보면, 비노그라도프는 주어진 성질을 갖지 않는 양의 정수의 예를 찾은 셈입니다. 우리는 비노그라도프가 반례를 찾았다고 말하고 싶습니까? 분명히 아닙니다. 그 결과는 분명히 반례가 아니라 정리(theorem)로 분류되어야 합니다. 따라서 우리는 단순히 LLM이 전칭(모든~이다) 기호가 붙은 명제를 부정하는 데 특히 뛰어나다고 순진하게 말할 수는 없습니다.