OpenAI의 나비에-스토크스 증명 주장은 무엇이 다른가

OpenAI가 내놓은 주장은 매우 크다. 회사는 비공개 내부 AI 시스템이 약 1만 개의 동시 에이전트를 조율해 3차원 비압축성 나비에-스토크스 방정식에서 유한시간 특이점이 생긴다는 증명을 찾아냈다고 밝혔다. 에이전트 실행에는 약 88시간, 별도 모델을 통한 Lean 증명 보조기 형식화와 검증에는 추가로 17시간이 들었다는 설명이다.17

다만 이것이 곧바로 ‘수학계가 인정한 해결’이라는 뜻은 아니다. OpenAI는 검토를 위해 서면 증명과 Lean 자료를 공개했지만, 외부 전문가들의 검증과 수학계의 수용에는 시간이 필요하다.126

OpenAI가 증명했다고 주장한 내용

나비에-스토크스 방정식은 물이나 공기처럼 점성이 있는 유체의 운동을 기술한다. 속도장, 압력, 점성, 비선형적인 유체의 이동, 그리고 클레이 수학연구소(Clay Mathematics Institute·CMI)의 공식 문제 설정에서 허용하는 외력 항이 함께 들어간다. 핵심 질문은 3차원에서 처음에는 매끄러운 유체 흐름이 언제까지나 매끄럽게 유지되는지, 아니면 유한한 시간 안에 수학적 붕괴가 일어날 수 있는지다.172133

OpenAI의 주장은 블로업(blow-up·유한시간 발산) 예시를 구성했다는 것이다. 처음에는 정지 상태인 유체가 매끄럽고 컴팩트 지지를 가진 외력에 의해 구동되고, 운동에너지는 유한하게 유지되지만 어느 유한한 시점에 속도가 무한히 커진다는 내용이다.134

쉽게 말하면, 점성이 있다고 해서 3차원 유체 흐름의 수학적 특이점이 언제나 막히는 것은 아니라는 사례를 분석적으로 보였다는 주장이다. 이는 난류를 컴퓨터로 극단적으로 시뮬레이션한 결과가 아니라, 논리적 증명으로 제시됐고 그 논리 단계를 Lean으로 옮겨 기계 검사를 받았다는 점이 핵심이다.134

증명이 맞다면 왜 역사적인가

나비에-스토크스 존재성과 매끄러움 문제는 클레이 수학연구소가 선정한 7대 밀레니엄상 문제 중 하나다. 총상금은 700만 달러이며, 문제별 상금은 100만 달러다.1820

공식 문제는 크게 두 길을 허용한다. 요구 조건 아래에서 전 시간에 걸쳐 매끄러운 해가 존재함을 증명하거나, 반대로 허용된 조건을 만족하면서 유한시간에 붕괴하는 사례를 만드는 것이다. 공식 서술에는 초기 조건뿐 아니라 외력에 대한 조건도 포함된다.1721

OpenAI는 자신의 구성이 이 공식화의 C와 D, 즉 유클리드 공간과 주기적 설정에서 매끄러운 외력 아래 유한시간 특이점이 존재한다는 대안들을 보였다고 주장한다.17 전문가 검토를 통과하고 공식 문제의 모든 요건에 정확히 들어맞는다면, 이는 푸앵카레 추측 이후 두 번째로 해결된 밀레니엄상 문제가 될 가능성이 있다. OpenAI 발표 당시에는 여섯 문제가 남아 있는 것으로 설명됐다.1118

Lean 검증의 의미와 한계

Lean은 증명 보조기다. 정의·공리·이미 검증된 정리들을 바탕으로, 형식화된 명제가 논리적으로 따라오는지를 검사한다. 따라서 Lean 검증에 성공했다는 것은 Lean에 입력된 형식적 명제와 증명에 논리적 빈틈이 없다는 강한 증거다.17

하지만 이것만으로 모든 논쟁이 끝나지는 않는다. 수학자들은 다음을 별도로 검토해야 한다.

• Lean의 형식 정리가 실제로 주장된 나비에-스토크스 상황을 정확히 포착하는지
• 서면 증명을 형식 정의로 옮긴 방식이 적절한지
• 가정들이 클레이 문제의 조건을 충족하는지
• 더 넓은 수학계가 증명을 받아들이는지

기계 검증은 주어진 형식 객체의 논리를 확인한다. 그 객체가 상금 문제의 의도와 모든 세부 조건을 충족하는지는 여전히 사람의 전문적 판단과 공개 검토가 필요한 문제다.

아직 100만 달러 상금이 수여되지 않은 이유

클레이 수학연구소는 제안된 해답을 직접 접수하지 않는다. 검토 대상이 되려면 적격 출판물에 게재돼야 하고, 출판 후 최소 2년이 지나야 하며, 세계 수학계에서 일반적인 수용을 얻어야 한다.26

따라서 OpenAI의 증명이 최종적으로 옳다고 판명되더라도 곧바로 상금이 수여되는 구조는 아니다. 현시점에서 가장 정확한 표현은 ‘상금을 받은 해결’이 아니라 공개 검증 중인 중대한 후보 증명이다.126

가장 중요한 범위 차이: 외력이 있는 흐름

발표를 둘러싼 논의에서는 서로 다른 질문이 종종 섞인다. 대중적으로 익숙한 표현은 ‘외부에서 힘을 가하지 않은 매끄러운 3차원 흐름이 스스로 특이점에 이를 수 있는가’에 가깝다. 그러나 OpenAI가 제시한 구성에는 매끄러운 외력이 들어간다.3435

이는 과학적으로 중요한 구분이다. 그렇다고 해서 클레이 문제의 범위에서 자동으로 제외되는 것은 아니다. 공식 문제에는 매끄럽고 빠르게 감쇠하는 외력이 있는 경우의 대안도 포함돼 있다.1735 결국 관건은 비강제 흐름이라는 더 좁은 통념에 맞는지가 아니라, OpenAI의 증명이 해당 공식 대안의 조건을 하나도 빠짐없이 만족하는지다.

우선권과 데이터 이용 논란은 왜 불거졌나

발표는 뉴욕대 수학자 트리스탄 버크마스터와, 개인 자격으로 버크마스터와 협력하던 Anthropic 연구원 레벤트 알푀게의 관련 연구와 맞물렸다. 이들의 작업은 표준 나비에-스토크스 문제의 확정적 해결이 아니라, 외력이 있는 관련 유체 방정식에 관한 것이었다.237

버크마스터는 OpenAI가 협업 방안을 제시하면서 Anthropic 소속이라는 이유로 알푀게를 제외하려 했다고 주장했다. 또한 두 연구자가 Codex를 비롯한 OpenAI 제품을 이용하며 나눈 상호작용이 모델 학습에 기여했을 가능성도 제기했다.25052

OpenAI는 문제 해결 과정에서 자사 연구진과 에이전트가 두 사람의 특정 연구물이나 사용자 데이터에 접근하지 않았다고 밝혔다. 동시에 제품 이용에서 파생된 비식별화 데이터가 모델 개선에 도움이 됐을 가능성은 완전히 배제할 수 없다고 했다.5354

이 답변만으로는 해당 상호작용이 학습 대상이 될 수 있었는지, 실제 쓰였는지, 결과에 실질적 영향을 줬는지가 밝혀진 것은 아니다. 공개 보도만으로 OpenAI가 버크마스터와 알푀게의 연구를 이용했다고 단정할 근거도 없다.25354

앞으로 확인할 지점

결정적인 기준은 에이전트 수나 88시간이라는 속도가 아니다. 독립 전문가들이 원고와 Lean 형식화를 세밀히 검토하고, 형식 검사를 재현하며, 정리가 클레이의 해당 조건을 충족한다는 데 합의하는지다.

그 과정이 통과된다면 이번 발표는 수학과 AI 보조 연구 모두에서 이정표가 될 수 있다. 그때까지는 공개된 고도의 후보 증명으로 보는 것이 타당하다. 별개로 우선권, 데이터 거버넌스, AI 기업이 연구자들의 미공개 아이디어를 다루는 방식에 관한 논쟁도 여전히 해결되지 않았다.12653