OpenAI가 2026년 9월 8일 내놓은 발표는 AI와 수학의 접점에서 매우 큰 주장이다. 회사는 공개되지 않은 내부 시스템이 3차원 비압축성 나비에-스토크스 방정식에서 유한시간 특이점이 생길 수 있음을 보이는 해석학적 증명과 Lean 형식화를 만들었다고 밝혔다. 166쪽 원고와 형식화 자료도 공개했다. 다만 이는 클레이 수학연구소의 밀레니엄 문제를 해결할 가능성이 있는 공개된 주장이지, 수학계의 최종 판정이나 상금 수여를 뜻하지는 않는다.
10
18
27
OpenAI가 증명했다고 말한 것은 무엇인가
발표된 구성은 매끄러운 유체가 처음에는 정지해 있고, 여기에 매끄러운 외력이 작용하는 데서 시작한다. OpenAI에 따르면 유체는 안쪽으로 나선형으로 감기면서 점점 길게 늘어나는 소용돌이를 형성하고, 유한한 시간이 지나면 특이점에 도달한다. 이때 속도는 한없이 커지지만 유체의 전체 에너지는 유한하게 남는다.
10
44
핵심은 단순히 컴퓨터 시뮬레이션에서 매우 빠른 회전을 관측했다는 것이 아니다. 나비에-스토크스 방정식이 유한한 에너지를 지닌 매끄러운 해가 유한시간 안에 매끄러움을 잃는 경우를 허용하는지를 묻는 문제다. OpenAI의 주장은 매끄러운 외력 아래 그런 가능성을 보이도록 특별히 설계한 반례형 구성이라는 데 있다.
10
왜 밀레니엄 문제의 해답이 될 수 있나
클레이 수학연구소의 공식 문제 서술은 해결 방식으로 몇 가지 선택지를 제시한다. 대략적으로는 3차원 해가 언제나 전역적으로 매끄럽다는 것을 보이거나, 반대로 매끄러움이 깨지는 사례를 제시할 수 있다. OpenAI는 자사의 구성이 공식 서술의 C와 D 선택지—유한시간 내 매끄러움 붕괴를 보이는 반례형 선택지, 그중 매끄러운 외력이 있는 경우를 포함—를 성립시킨다고 주장한다.
10
17
증명이 정확하고, Lean에 적힌 정리가 공식 문제의 조건을 빠짐없이 정확하게 반영한다면, 해당 조건에서 보편적인 전역 매끄러움이 성립하지 않음을 보여 문제의 핵심 양자택일을 결론낼 수 있다. 클레이 수학연구소도 이를 문제의 명백한 해결(apparently been settled) 가능성으로 언급했지만, 수학계가 평가해야 한다고 분명히 밝혔다.
18
‘1만 에이전트’는 어떤 의미인가
보도와 OpenAI의 설명에 따르면, 이 작업에는 비공개 고성능 모델 위에서 움직인 약 1만 개의 자율 AI 에이전트가 동원됐다. OpenAI는 이 시스템이 통상적인 수학 원고와 Lean 형식화를 함께 만들도록 에이전트들을 조율했다고 설명했으며, 다른 보도에서는 실행 시간이 88시간으로 전해졌다.
10
12
2
따라서 회사가 내세우는 결과는 모델이 던진 아이디어나 수치 실험 결과가 아니다. 해석학적 논증 전체와 이를 기계적으로 검사할 수 있는 표현을 모두 생성했다는 주장이다.
Lean 형식화가 보장하는 것, 보장하지 않는 것
Lean은 증명 보조기다. 정의·공리·기존에 형식화된 정리 위에서, 입력된 정리가 논리적으로 따라 나오는지를 엄밀하게 검사한다. Lean 검증이 통과됐다면 형식화된 증명 안의 통상적인 단계별 논리 오류 위험은 크게 줄어든다. OpenAI는 증명과 함께 Lean 형식화도 공개했다.
10
하지만 기계 검증만으로 다음 질문까지 자동으로 해결되지는 않는다.
- Lean에 입력된 정리가 의도한 나비에-스토크스 주장과 정확히 같은가?
- 가정과 정의가 클레이 수학연구소의 공식 문제 설정에 맞는가?
- 해석학적 구성의 모든 실질적 내용을 형식화가 충실히 담았는가?
바로 이 때문에 독립 수학자들의 검토가 필수다. 형식 증명은 매우 강력한 검증 자산이지만, 수학적 해석과 공동체의 수용을 대체하는 자동 승인 절차는 아니다.
당장 항공·기상·배관 설계가 바뀌는 것은 아니다
가령 이 구성이 옳더라도, 항공기 주변의 공기 흐름, 관 내부 난류, 날씨, 혈류 같은 일상적 유동에서 실제로 무한한 속도가 나타난다는 뜻은 아니다. 발표된 사례는 정교하게 설계된 매끄러운 외력과 아주 특수한 소용돌이 배치를 사용한다. 방정식이 허용하는 가능성을 보이는 것이지, 흔한 현실의 유체 흐름이 자연스럽게 그 상태로 간다는 주장은 아니다.
10
44
또한 나비에-스토크스 방정식은 유체를 연속체로 다루는 모델이다. 충분히 작은 규모에서는 분자 수준 물리가 중요해지므로, 연속체 방정식의 수학적 특이점을 실제 유체에서 속도가 문자 그대로 무한해진다는 예측으로 읽어서는 안 된다.
따라서 즉각적인 의의는 공학적 응용보다는 수학과 연구 방법론에 있다. 항공기 설계나 일기예보에 바로 투입할 새 도구라기보다, 이 방정식이 허용하는 해의 성질을 바꿀 수 있는 주장이다.
동시에 불거진 우선권 논란
발표 직후 공로와 시점을 둘러싼 논란도 일었다. 뉴욕대(NYU)의 트리스탄 버크마스터와 Anthropic의 레벤트 알푀게는 OpenAI 발표 직전에, 강제력이 있는 관련 유체 방정식의 유한시간 발산 결과를 AI 도움과 Lean 형식화로 얻었다고 발표했다. 이들의 연구는 디에고 코르도바와 루이스 마르티네스-소로아와 연관된 기존 전략을 바탕으로 한다.
1
2
5
버크마스터와 알푀게는 OpenAI가 당시 미공개였던 자신들의 연구 또는 발표 내용에서 영향을 받았을 수 있으며, 공개 발표의 서술이 관련 아이디어의 인간적 계보를 충분히 반영하지 않았다고 문제를 제기했다. 제공된 자료는 우선권 분쟁이 존재했다는 사실을 뒷받침하지만, 복제가 있었다는 확정 판단을 뒷받침하지는 않는다.
1
13
이는 AI 보조 연구에서 공로를 어떻게 배분할지라는 더 넓은 문제를 드러낸다. 앞선 인간 연구자의 아이디어, 증명을 형식화하거나 검증한 협력자, 시스템 설계자, 발견 과정에 사용된 모델의 역할을 어떻게 기록할지에 대한 기준이 필요해질 수 있다.
수학자들이 ‘사람이 이해할 수 있는 통찰’을 중시하는 이유
증명이 고도로 설계된 산물이라도 유효하다면 역사적으로 중요할 수 있다. 그러나 수학자들은 현상을 왜 설명하는지, 어떤 구조가 다른 문제에도 재사용될 수 있는지, 주변 문제에 대한 이해를 어떻게 바꾸는지를 보여주는 설명도 중시한다.
AI 기반 수학에는 여기서 긴장이 생긴다. 대규모 에이전트 탐색은 사람이 예상하지 못했던 구성을 찾아낼 수 있다. 반면 결정적 아이디어가 사람이 해석하기 어려우면, 짧고 설명력 있는 증명보다 장기적인 개념적 안내를 덜 제공할 수 있다. 이번 주장은 증명의 참·거짓뿐 아니라, AI가 지속 가능한 수학적 이해까지 만들어낼 수 있는지를 시험하는 사례이기도 하다.
클레이의 100만 달러 상금은 받았나
아니다. OpenAI는 밀레니엄상을 청구할 의도가 없다고 밝혔다. 클레이 수학연구소의 규정상, 제안된 해답을 검토하려면 적격 학술 매체에 출판돼야 하고, 출판 후 최소 2년이 지나야 하며, 세계 수학계의 일반적인 수용을 받아야 한다.
10
27
클레이 수학연구소의 9월 성명은 문제가 명백히 해결된 것으로 보인다고 했으며, 수학계와 함께 발표를 검토하고 있다고 밝혔다. 이는 주장에 대한 관심과 중요성의 인정이지 최종 판정은 아니다.
18
현재 가장 정확한 표현은 이렇다. OpenAI는 3차원 나비에-스토크스 방정식의 유한시간 발산에 관한 놀랍고 기계 형식화된 주장을 공개했다. 그 최종 지위는 독립 수학자들이 증명과 Lean 형식화가 주장한 바로 그 정리를 정확히 확립하는지 확인하는 데 달려 있다.
10
18