클로드, 수학계 난제 '리만 가설' 도전... 67.2% 하한선 달성
Anthropic의 AI 모델 Claude가 미해결 수학 난제인 리만 가설을 증명하는 데 도전했습니다. 비록 가설 전체를 완벽히 증명하지는 못했지만, 연구 과정에서 리만 제타 함수의 영점이 리만 가설을 만족하는 비율에 대한 기존 하한선을 41.6%에서 67.2%로 대폭 끌어올리는 성과를 거두며 수학적 전문가 검증까지 마쳤습니다. 이는 AI 모델의 수학적 추론 및 문제 해결 능력이 어디까지 발전했는지를 보여주는 중요한 이정표입니다.
과학 클로드의 수학적 능력에 대해 더 알아보기 2026년 8월 10일
최근 Anthropic의 직원이 Claude에게 무리한 도전 과제를 던졌습니다. 바로 수학에서 가장 유명한 미해결 난제 중 하나인 '리만 가설(Riemann hypothesis)'에 제대로 도전해 보라는 것이었습니다. Claude는 실제로 진지하게 도전했지만, 이 작업의 엄청난 난이도를 고려한다면(리만 가설은 1859년으로 거슜러 올라가며 100만 달러의 현상금이 걸려 있습니다) 예상하셨겠지만 증명에는 실패했습니다. 그럼에도 불구하고 시도하는 과정에서 예상치 못하게 관련 문제에서 큰 진전을 이루었습니다.
공개되지 않은 연구 버전의 Claude가 리만 제타 함수의 영점 중 리만 가설을 만족하는 비율에 대한 장기적인 하한선을 개선했습니다. 지난 수십 년간 수학자들이 이룬 방대한 선행 연구를 바탕으로, Claude는 이 경계값을 41.6%에서 67.2%로 높였습니다. Anthropic의 두 수학자는 Claude의 논문을 연구하고 검증한 후, 전문가를 위해 Claude의 증명을 간결하게 요약한 비공식 노트를 작성했습니다. 또한 Claude는 이 결과에 대해 형식적으로 검증 가능한 증명(formally verifiable proof)을 생성해 냈습니다. 우리는 이 분야의 전문가인 Brian Conrey와 Dan Goldston에게 감사를 표합니다. 두 분은 짧은 시간 안에 논문을 꼼꼼히 검토해 주셨습니다.
우리는 Claude가 사용한 기법이 리만 가설의 완전한 증명으로 직결될 것이라고 기대하지는 않습니다. 하지만 이번 성과는 AI 모델의 수학적 능력이 얼마나 빠르게 발전하고 있는지를 보여주는 최신 사례입니다. 이 글에서는 Claude가 이 문제에 어떻게 접근했고 어떤 발견을 했는지 논의해 보겠습니다.
리만 제타 함수 리만 제타 함수는 소수의 분포를 설명합니다. 이 함수가 0이 되는 모든 지점은 소수 수열에 점진적이고 미세한 디테일을 더해 줍니다. 리만 가설은 소수를 결정하는 이 '영점(zeros)'들이 모두 특정 수직선을 따라 존재한다는 가설입니다. 이는 수학에서 가장 중요한 추측 중 하나가 되었습니다. 소수에서 무작위성의 형태를 제공하기 위해 많은 결과들이 이 가설이 참이라고 가정하고 있기 때문입니다.
아직 리만 가설을 증명하거나 반증한 사람은 없지만, 수학자들은 리만 제타 함수와 그 영점을 연구하며 여러 관련 방향에서 진전을 이루어 냈습니다. 앞서 언급한 것처럼 그중 하나는 선 위에 있는 영점의 최소 비율을 수치화하는 것입니다. 시간이 지나면서 수학자들은 알려진 일정 비율의 하한선을 점차 41.6%까지 끌어올렸습니다.
또 다른 방향은 선 위의 영점 분포와 관련이 있습니다. 특히 1973년 몽고메리(Montgomery)는 이 분야에 여러 새로운 기법을 도입했지만, 이 기법들은 리만 가설이 참이라는 것을 전제로 했습니다. 최근 몇 명의 수학자(Baluyot, Goldston, Suriajaya, Turnage-Butterbaugh)가 몽고메리의 기법을 그러한 가정 없이도 작동하도록 만드는 일련의 연구를 발표했습니다. 이는 선 위 영점에 대한 하한선 상수를 높이는 작업을 지원할 수 있음을 의미합니다. Claude의 결과는 2000년 Bombieri의 논문과 함께 이 연구 노선에 크게 의존하고 있습니다.
클로드의 발견 Claude는 Baluyot, Goldston, Suriajaya, Turnage-Butterbaugh의 결과를 Bombieri의 연구와 결합하면 기존 최고 수준의 하한선 비율인 41.6%를 뛰어넘어 이를 67.2%로 높일 수 있는 방법을 찾아냈습니다.
Claude의 발견에 대한 간단한 기술적 설명은 다음과 같습니다. Claude는 Weil에 의해 유도된 이차 형식과 선상의 영점(또는 선 밖의 영점)에서 발생하는 정(또는 부)정 부분 공간을 갖는 적절한 함수 공간을 형성합니다. 그런 다음 Claude는 단순히 1차 및 2차 모멘트 정보를 바탕으로 이차 형식의 계수에 대한 부등식을 작성합니다. (소수에 대한 쌍대 그림 관점에서 후자를 성공적으로 계산하거나, 힐베르트 변환을 제어하는 것은 해석적 정수론에서 놀라운 일이 아닙니다.) 양수 및 음수 정부호성을 함께 고려하여 전체 공간을 다루고, 이차 형식이 비대각선(non-diagonal) 형태가 되도록 허용했던 용기는, 어떤 의미에서 중요한 선행 연구를 바탕으로 Claude가 결론에 도달할 수 있게 해 준 결정적인 단계라고 할 수 있습니다.