OpenAI, 나비에-스톡스 문제의 '틀린 문제'를 풀었나?
OpenAI가 클레이 수학연구소의 100만 달러 상금이 걸린 나비에-스톡스 문제를 풀었다고 주장했지만, 많은 전문가들은 이 증명이 외부 힘이 포함된 변형 문제를 푼 것일 뿐 수학자들이 실제로 관심을 두는 순수한 원래 문제와는 무관하다고 지적합니다. 세 수학자가 OpenAI의 방법으로는 완전한 문제를 풀 수 없음을 증명하며, 이 '허점'은 근본적으로 새로운 아이디어 없이는 닫힐 수 없다는 논란이 커지고 있습니다.
2026년 9월 21일, 4분 소요
OpenAI의 증명은 클레이 수학연구소의 100만 달러 상금 대상에 부합하는 듯 보이지만, 논란이 되는 허점을 이용한 것이다.
조지프 하울렛(Joseph Howlett) 작성, 리 빌링스(Lee Billings) 편집
수학자들이 AI가 자신들의 분야를 잠식하는 것에 어떻게 대응하고 있는지는 본지의 특집 기사에서 확인할 수 있다. 수학을 좋아한다면 매주 발행되는 뉴스레터 'Proof Positive'에 가입해 보라.
2주 전 OpenAI는 수학계 최대 난제 중 하나인 나비에-스톡스 문제를 해결했다고 주장했으며, 이는 클레이 수학연구소가 100만 달러의 상금을 걸어둔 성과다. 이 증명은 AI 기업들의 수학 분야 파괴 경쟁에 대한 우려라는 화약고에 불을 붙였다. 그러나 논란의 먼지가 채 가라앉기도 전에 다른 문제가 부상하고 있다. 과연 OpenAI는 올바른 나비에-스톡스 문제를 풀었는가?
OpenAI 내부의 대규모 언어 모델(LLM)이 생성한 이 증명은 많은 전문가들이 부자연스럽다고 느끼는 접근 방식에 의존한다. 이는 수학자들이 현실과 동떨어져 있어 덜 흥미롭다고 말하는 문제의 변형을 푼 것이다. 어떤 의미에서 이 LLM은 문제 설정의 허점을 찾아내어 이용한 셈이다.
"가장 중요한 문제는 여전히 풀리지 않았습니다." 시카고 대학교의 수학자 루이스 실베스트레(Luis Silvestre)는 말했다. "클레이 문제는 해결되었지만, 나비에-스톡스 방정식의 본질적 문제는 그렇지 않습니다."
게다가 지난 목요일 세 명의 수학자가 자체 증명을 발표하며 OpenAI의 방법으로는 완전한 문제를 절대 풀 수 없음을 보여주었다. 다시 말해, 완전히 새로운 아이디어가 나오지 않는 한 이 허점은 결코 닫히지 않는다는 것이다.
나비에-스톡스 방정식은 유체가 어떻게 흐르는지를 기술하는 것이지만, 수학자들은 이 방정식이 항상 신뢰할 수 있는지 의심하고 있다. 이 100만 달러짜리 문제는 방정식이 '블로우업(blow up)', 즉 유체 흐름이 특정 지점에서 무한히 빨라지는 것을 허용하는지에 관한 것이다. 이는 현실 세계에서 일어날 수 없는 일이다.
그런데 방정식에는 선택적인 부분이 하나 있다. 즉, 때로는 있고 때로는 없는 항이 있다. 여기서 말하는 '그것'은 유체의 움직임에 영향을 주는 중력 같은 외부 힘이다. 수학자 디에고 코르도바(Diego Córdoba)는 "우리가 아는 모든 유체는 어떤 종류의 외부 힘을 받고 있습니다. 그래서 힘이 있는 것이 완전히 말이 됩니다"라고 말한다.
하지만 대부분의 전문가들이 나비에-스톡스 문제를 생각할 때는 이 외부 힘을 제외하고 고려한다. 그들은 특정하고 정교하게 조작된 외부 힘을 가하는 것이 아니라, 어떤 유체든 내재된 고유한 힘만을 이용해 방정식이 블로우업되는 더 순수하고 근본적인 방식을 찾기를 원한다. 수학자 루이스 마르티네스-조로아(Luis Martínez-Zoroa)는 "사실 대부분의 다른 연구 그룹은 힘이 없는 시나리오를 구체적으로 다루고 있었습니다"라고 말한다.
그러나 지난 몇 년간 코르도바와 마르티네스-조로아는 방정식의 이 틈새 부분에 모든 노력을 쏟아부었고, 블로우업을 유발하는 매우 특정한 외부 힘을 만들어내는 방법을 제시했다. 9월 7일, 다른 두 명의 수학자가 그들의 프로그램(과 AI)을 이용해 마찰이 없는 유체에 대한 블로우업을 만들어냈으며, 이는 나비에-스톡스 블로우업을 향한 중대한 진전으로 평가되었다. OpenAI는 그로부터 하루도 채 지나지 않아 마지막 작업을 완료했고, 이 타이밍은 후자의 두 수학자 사이에 격렬한 논쟁을 불러일으켰다.