OpenAI의 나비에-스토크스 주장: 무엇이 발표됐고, 왜 아직 검증은 끝나지 않았나

OpenAI의 나비에-스토크스 결과가 수학적 검토를 통과한다면 매우 큰 이정표가 될 수 있다. 다만 현재 공개된 사실은 OpenAI가 해답을 주장하고, 이를 뒷받침할 원고와 Lean 형식화를 공개했다는 데까지다. 독립적인 전문가 검토와 클레이 수학연구소의 공식 수용은 아직 별개의 절차로 남아 있다. 14

OpenAI가 발표한 내용

나비에-스토크스 존재성과 매끄러움 문제는 3차원 유체 흐름이 처음에는 매끄럽더라도 유한한 시간 안에 붕괴할 수 있는지, 아니면 언제나 매끄러움을 유지하는지를 묻는 문제다. OpenAI는 특정 조건에서 유체 운동이 유한시간 특이점, 즉 해의 값이 통제 불가능하게 발산하는 상태로 갈 수 있음을 보였다고 밝혔다. 4

회사 측 설명에 따르면, 공개되지 않은 내부 모델이 약 1만 개의 동시 에이전트를 조율해 약 88시간 동안 작업했다. 그 결과물은 해석적 증명과 Lean 형식화이며, 보도에서는 원고 분량이 166쪽으로 전해졌다. 31

여기서 중요한 구분이 있다. Lean 형식화는 증명을 형식 언어로 옮긴 뒤, 정해진 정의와 공리·가정 아래에서 각 추론 단계가 성립하는지 컴퓨터가 검사하도록 하는 방식이다. 이는 사람이 읽는 증명에서 놓치기 쉬운 논리적 빈틈을 찾는 데 강력한 도구다. 하지만 형식 검증만으로 다음 질문들이 자동으로 해소되는 것은 아니다.

• 형식화된 정리가 원래의 나비에-스토크스 문제를 정확히 표현하는가
• 사용한 가정과 적용 범위가 적절한가
• 해석적 원고와 Lean 코드가 완전하게 대응하는가
• 클레이 수학연구소가 정한 문제의 어느 정식화를 해결하는가

초기 보도 시점에 클레이 수학연구소는 이 주장을 독립적으로 받아들이지 않았다. 따라서 지금 단계에서 이를 확정된 ‘해결’로 단정하기는 이르다. 1

핵심은 증명만이 아니라 공로 배분 논란

발표는 곧바로 연구 우선권과 연구 윤리를 둘러싼 논쟁으로 번졌다. 뉴욕대 수학자 트리스탄 벅마스터와 앤트로픽 연구자 레벤트 알푀게는 관련 유체역학 연구를 진행해 왔다. 벅마스터는 OpenAI가 두 사람의 접근법을 알게 된 뒤 자체 작업을 서둘렀을 수 있다며 공로 인정 문제를 제기했다.

OpenAI는 연구자와 AI 에이전트 모두 두 사람의 연구가 공개되기 전에는 어떤 경로로도 그 작업을 보지 못했다고 부인했다. 보도상 두 연구 결과는 관련돼 있으나, 동일한 결과였다고 입증된 것은 아니다. 즉 벅마스터의 문제 제기는 중대한 공개 주장인 반면, 현재 제공된 자료만으로 사실로 확정된 사안은 아니다.

이 때문에 논점은 ‘AI가 정답을 냈는가’에만 머물지 않는다. 어떤 연구 경로를 언제 알게 됐는지, 타임라인을 외부에서 검증할 수 있는지, 서로 맞닿은 기여를 어떻게 표기할지, 비공개 시스템의 연구 과정을 공동체가 어느 정도 점검할 수 있는지가 함께 쟁점이 됐다.

Lean 검증이 논쟁의 끝이 아닌 이유

형식 검증은 수학적 신뢰도를 높인다. Lean은 증명의 단계를 엄격한 형식 언어로 확인하므로, 전통적 동료 검토에서 남을 수 있는 오류를 줄이는 데 유용하다. OpenAI가 사람이 읽을 수 있는 원고와 형식화를 모두 공개한 것은 외부 검토를 위한 자료를 제공했다는 의미가 있다. 4

그럼에도 수학계가 판단해야 할 층위는 더 넓다.

• 범위: 증명이 해결한다고 주장하는 나비에-스토크스 문제의 정확한 버전은 무엇인가
• 번역의 정확성: 비형식적 정리·가정과 Lean에서 표현된 정리가 서로 정확히 일치하는가
• 독창성과 귀속: 핵심 아이디어가 누구에게서, 언제 나왔는가
• 이해 가능성: 단순히 검증 가능한 도출을 넘어 다른 연구에 재사용할 통찰을 제공하는가
• 재현성과 접근성: 외부 연구자가 결과를 읽고, 설명하고, 확장할 수 있는가

브라운대의 하비에르 고메스세라노는 이 사태를 수학의 ‘실존적 위기’로 표현했다. AI가 빠르게 결과를 만들어낼 때, 인간이 이해하고 검증하며 가르치고 공로를 배분해 온 기존의 장치가 그 속도를 따라갈 수 있느냐는 불안이 담긴 평가다.

‘AI 수학 레이스’에 대한 반발

논란은 하나의 증명을 넘어 AI 기업 간 경쟁 자체를 향한 비판으로 커졌다. 테런스 타오를 포함한 필즈상 수상자 25명은, 난제 해결을 AI 모델의 성능 과시 경쟁으로 삼는 일이 과학과 연구자 양성에 해가 될 수 있다고 경고하는 선언에 서명했다. 17

또 별도로 캘텍의 현·전직 수학자들이 예정된 AI 수학 행사에서 OpenAI가 맡을 역할에 반대하는 공개서한을 냈다. 보도에 따르면 공개 당시 서명자는 771명이었고, 이후 OpenAI는 캘텍 매서톤(Mathathon) 후원을 철회했다.

이 반발은 AI를 수학에서 배제하자는 주장으로만 읽기 어렵다. 비판의 초점은 폐쇄형 시스템과 홍보 중심의 경쟁이 공개적 교류, 세심한 공로 표기, 인간이 이해할 수 있는 수학적 설명보다 ‘헤드라인용 해결’을 앞세울 수 있다는 데 있다. 반대로 AI는 증명 검사, 추측 탐색, 해설 개선, 공동 형식화 라이브러리 구축 같은 방식으로 수학에 생산적으로 기여할 수도 있다.

다음 표적은 호지 추측인가

OpenAI는 뉴욕타임스에 또 다른 밀레니엄상 문제에서 “상당한 진전”을 이뤘다고 말한 것으로 보도됐다. 그러나 회사는 그 문제가 무엇인지 밝히지 않았고, 증명도 공개하지 않았다. 현재 공개적으로 확인된 내용은 여기까지다.

호지 추측이 다음 대상일 수 있다는 관측이 널리 퍼졌고, 버치-스위너턴다이어 추측도 추측의 대상으로 거론됐다. OpenAI 내부 소식통을 인용한 보도는 직원들이 호지 추측에서의 진전을 기대한다고 전했지만, OpenAI가 호지 추측의 증명을 공식 발표한 것은 아니다.

따라서 두 추측 중 어느 하나가 해결됐다는 말은 수학적 성과가 아니라 확인되지 않은 소문으로 다뤄야 한다.

앞으로 확인해야 할 것

결정적인 다음 단계는 새로운 발표가 아니라, 이미 공개된 나비에-스토크스 자료에 대한 독립 검토다. 전문 수학자들이 논증을 읽고, Lean 프로젝트와 의존성을 점검하며, 클레이 수학연구소의 정확히 어떤 정식화가 해결됐는지를 명확히 해야 한다.

향후 OpenAI가 다른 밀레니엄 문제에 대해 새 주장을 내놓더라도 기준은 같다. 설득력 있는 성과라면 정확한 정리, 접근 가능한 비형식·형식 자료, 투명한 연구 기원 설명, 그리고 다른 연구자가 검토하고 확장할 수 있을 만큼의 해설이 필요하다. AI 보조 수학에서 정답성은 필수지만, 공로 배분·개방성·인간의 이해 역시 필수 조건이다.