필즈상 수상자 25인, AI가 수학을 '멍청하게' 만든다 경고
수학계 최고 영예인 필즈상 수상자 25인이 공동 성명을 통해 AI 산업과 수학의 목표가 '심각하게 어긋나 있다'고 경고했습니다. 그들은 AI로 문제를 대량 해결하는 것이 수학의 진정한 목표인 개념적 이해와 통찰을 훼손한다고 지적하며, 이는 지적 노동 전반에 대한 광범위한 위협의 증상이라고 주장했습니다.
필즈상 수상자 25인, AI가 수학 분야를 '멍청하게' 만들고 있으며 우리 모두가 다음 대상이라고 경고
주요 포인트
- 25명의 필즈상 수상자들은 공동 성명에서 AI 산업의 목표와 수학의 목표가 '심각하게 어긋나 있다'고 경고한다.
- 그들은 AI로 해결된 문제를 대량 생산하는 것이 이 학문의 진정한 목표인 개념적 이해를 약화시킨다고 주장한다.
- 서명자들은 이를 학습 과정이 최종 산물보다 더 중요한 지적 노작에 대한 더 광범위한 위협의 증상으로 본다.
수학계 최고 영예인 필즈상 수상자 25인이 공동 성명을 통해 AI가 자신들의 분야에 미치는 영향에 대해 경고했다. AI 산업의 목표와 수학자들의 목표는 '심각하게 어긋나(severely misaligned)' 있다는 것이다.
성명에 따르면 대형 언어 모델(LLM)은 최근 몇 달간 수학 능력이 크게 향상되어 이제 '수학의 여러 분야에서 주요 미해결 문제'를 해결할 수 있는 수준에 이르렀다. 바로 그 점이 그들을 걱정하게 만든다. AI 기업들이 수학 문제를 정복해야 할 벤치마크로 취급하고 있으며, 이것이 과학과 주변 커뮤니티에 해를 끼치고 있다는 것이다. 서명자 중 한 명인 테렌스 타오(Terence Tao)는 이미 AI가 촉발할 수학의 기초 위기에 대해 경고한 바 있다.
문제 해결은 목표가 아니라 목표로 가는 길이다
성명은 다음과 같이 말한다. 유명한 미해결 문제들은 "종종 이 지형에 대한 이해가 향상되었음을 측정할 수 있는 이정표와 등대 역할을 해왔다." 누군가 그러한 문제를 풀 때, 해답 자체보다 더 중요한 것은 그것에 도달하기 위해 필요했던 새로운 사고 방식이다. 그 후 수학자들은 수년에 걸쳐 강연, 토론, 단순화라는 '길고 험난한 과정'을 통해 그 사고를 분해하고 분석해 왔다.
AI는 이 과정을 단락시킬 위험이 있다. 서명자들은 "문제 해결은 개념적 이해와 통찰이라는 주요 목표를 달성하기 위한 도구이자 대리 지표일 뿐"이라고 쓰고 있다. 기계의 속도로 정답을 분야에 범람시키는 것은 "새로운 아이디어에 생명을 불어넣는 대신 비옥한 토양을 파괴할 수 있다."
AI가 생성한 해결책은 "제대로 된 논문 작성, 새로운 방법과 아이디어의 분리, 관련 선행 연구 인용을 위한 시간도 없이" 발표된다. 이는 "심각한 귀속(attribution) 및 표절 문제"를 야기한다.
성명은 이렇게 말한다. "자신의 발전과 수학적 정전(canonical)에의 통합을 돌봐야 하는 수학자들의 자발적 참여가 없다면, AI가 구상한 아이디어는 결코 완전히 살아있는 것이 되지 못한다. 수학자들 사이의 결정적인 인간적 전달 사슬이 상실될 것이다."
이 성명은 두 수학자와 OpenAI 사이의 논란 한가운데 발표되었다. 논란의 내용은 OpenAI가 밀레니엄 문제(천년 난제)의 부분적 해결에 대한 소문을 접하고 홍보를 위해 연구자들보다 먼저 해결하려 했다는 것이다. OpenAI 수석 연구원 파초츠키(Pachocki)는 Astra 발표 당시 회사가 수학에 대해 모델을 최적화하지 않기로 의도적으로 결정했다고 말했었다. 그 직후 OpenAI는 그 소문에 직접 대응하듯 수학 모델을 학습시킨 것으로 보인다.
위협은 수학을 훨씬 넘어선다
서명자들은 이것이 '지적 노동에 대한 일반적인 위협'이라고 본다. 여러 분야에서 수년간의 훈련은 "최종 답안이나 산출물을 만들어내는 것뿐 아니라 이해력과 새로운 질문 및 아이디어를 공식화하는 능력을 기르는 데도 중요한 역할을 해왔다." AI가 "그러한 노동의 결과물을 직접" 생산해낼 때 이러한 목적들은 분리된다.
"수학 커뮤니티가 직면한 문제는 다른 과학 및 창작 직종이 직면한 문제와 유발하며, 인류 전체가 직면할 문제를 예고한다. 즉, AI가 일하는 방식을 바꿀 때 그 일이 애초에 달성하려던 것이 무엇이었는지 잊지 않으려면 어떻게 해야 하는가 하는 것이다."
이 격차는 이미 교육 분야에서 나타나고 있다. 숙제는 학습 과정을 거치지 않고 결과물만 제출할 수 있게 만들 수 있다.