먼저 결론: ‘해결했다’는 회사의 주장과 ‘정리로 인정받았다’는 것은 다르다

OpenAI의 9월 21일 발표는 매우 큰 연구 성과 주장이지만, 수학계가 이미 결론을 내린 결과는 아니다. 회사는 8월 28일부터 훈련한 이름 비공개 내부 모델이 수학 대부분의 분야에서 오랫동안 풀리지 않은 문제 100개 이상을 해결했다고 밝혔다.515

현재 공개 자료가 뒷받침하는 것은 OpenAI가 그런 주장을 했다는 사실이다. 반면, 100여 개 각각의 문제가 외부 전문가에게 독립적으로 검토되고 수학계에서 받아들여졌다는 점은 아직 공개적으로 입증되지 않았다.

OpenAI가 무엇을 발표했나

앞서 OpenAI는 9월 8일, 비공개 내부 모델을 활용한 약 1만 개 AI 에이전트가 88시간 동안 작업해 외력이 있는 3차원 나비에–스토크스 방정식에서 유한 시간 특이점을 찾아냈다고 발표했다. 회사는 이를 나비에–스토크스 존재성과 매끄러움 문제의 해법으로 설명했으며, 해석적 증명과 Lean 형식화를 만들었다고 밝혔다.113

이어 9월 21일에는 나비에–스토크스 외에도 내부 모델이 장기 미해결 문제 100개 이상을 해결했다고 발표 범위를 넓혔다.515

여기서 ‘해결했다(resolved)’는 표현은 OpenAI의 자체 규정이다. 각 결과가 논문으로 출판됐거나, 독립 검증을 거쳤거나, 수학계의 합의를 얻었다는 뜻으로 읽어서는 안 된다.

공개된 증거와 공개되지 않은 기록

나비에–스토크스 결과에 대해서는 OpenAI가 해석적 증명과 Lean 형식화를 공개적으로 설명했다. Lean은 증명 보조 언어다. Lean이 검사한 결과는 특정 정의·공리·기존 라이브러리 아래 정밀하게 부호화된 정리가 논리적으로 따라온다는 강한 근거가 될 수 있다.13

하지만 ‘100개 이상’이라는 더 넓은 주장에는 공개 기록이 훨씬 제한적이다. 9월 21일 발표에는 문제들의 목록, 각 문제의 정확한 수학적 진술, 증명, 형식화 여부, 선행 연구와의 관계, 독립 심사 상태를 문제별로 정리한 공개 자료가 제시되지 않았다. 외부 연구자가 ‘100개 이상’이라는 숫자를 하나씩 감사할 수 없는 이유다.711

나비에–스토크스 증명 역시 독립적인 인간 동료심사가 완료됐거나 수학계가 일반적으로 받아들였다는 사실은 확인되지 않았다. 증명 산출물을 공개하거나 코드가 컴파일되는 일과, 학계의 검증·수용은 서로 다른 기준이다.146

호지 추측은 풀렸나

아니다. 제공된 공개 기록만으로는 호지 추측이 해결됐다고 볼 근거가 없다.

호지 추측은 클레이 수학연구소(CMI)가 선정한 밀레니엄 난제 중 하나다.37 보도에 따르면 OpenAI는 이름을 밝히지 않은 두 번째 밀레니엄 문제에서 ‘상당한 진전’을 이뤘다고 인정했지만, 그것이 호지 추측이라고 확인하지 않았고 증명도 공개하지 않았다.14

진전 보도나 추측은 연구 공동체가 검토할 수 있는 공개 증명을 대체하지 못한다. 정확한 정리와 뒷받침 자료가 공개되고 독립 평가가 이뤄지기 전까지는, OpenAI의 호지 추측 해법이 확립됐다고 말할 수 없다.

Lean 검증이 있어도 왜 읽기 어려운가

형식 검증과 인간이 이해하는 수학적 설명은 맞닿아 있지만 같은 일은 아니다.

Lean 형식화는 정해진 형식 체계 안에서 논리적 빈틈이 없다는 강한 보장을 제공할 수 있다. 다만 형식 증명은 정의, 보조정리, 라이브러리 의존성, 치환, 기술적 단계를 모두 명시해야 한다. 그래서 수학자가 핵심 아이디어를 한눈에 파악할 수 있는 개념적 논증으로 읽기 어려울 수 있다.

이는 ‘컴파일만 되면 무의미하다’는 뜻이 아니다. 다만 컴파일 여부만으로는 다음 질문에 답할 수 없다는 의미다.

• 형식화된 명제가 의도한 밀레니엄 난제의 정확한 진술과 일치하는가?
• 특이점 또는 구성의 핵심 아이디어는 무엇인가?
• 결정적 역할을 하는 추정과 논증은 무엇인가?
• 다른 연구자가 이어받아 발전시킬 수 있는 새롭고 견고한 결과인가?
• 관련 선행 아이디어의 공로는 어떻게 배분해야 하는가?

형식 검증은 검증 과정의 중요한 축이 될 수 있다. 그러나 그것만으로 간결한 인간용 해설, 연구의 출처와 공로, 학계의 합의가 자동으로 생기지는 않는다.

수학계의 반발: 공로와 우선권 문제

논란은 증명의 기술적 타당성에만 머물지 않았다. 필즈상 수상자 25명은 A Severe Misalignment of AI in Mathematics라는 공개서한에 서명해, AI 연구소들이 유명 난제를 모델 성능 시연 경쟁에 활용하는 데 반대했다. 관련 보도에 따르면 서명자들은 이런 유인이 수학 연구 문화와 연구자 양성에 해를 줄 수 있다고 경고했다.1921

수학자 트리스탄 버크마스터와 레벤트 알푀게를 둘러싼 우선권 분쟁도 있었다. 버크마스터는 당시 성명에서 OpenAI 내부 시스템이 외력이 있는 나비에–스토크스 방정식의 유한 시간 블로업 증명을 갖고 있다는 이야기를 들었다고 밝혔다. 또 자신과 알푀게가 검증과 해설을 마치기 전에 관련 연구를 공개해야 한다는 압박을 느꼈다고 썼다. 별도의 저소산성 나비에–스토크스 결과는 Lean 검증이 끝나지 않아 공개하지 않았다고도 설명했다.17

이 성명은 공개 시점, 공로, 출판 압박을 둘러싼 분쟁이 있었다는 중요한 자료다. 그러나 이것만으로 OpenAI가 다른 연구자의 성과를 복제했다는 사실이 입증되는 것은 아니다. OpenAI는 두 수학자의 관련 돌파구 소문을 들은 뒤 연구를 시작했으며, 그들의 우선권을 인정하는 동시 공개를 제안했다고 밝혔다.32

따라서 핵심 쟁점은 AI가 증명을 만들 수 있는가에만 있지 않다. AI 보조 발견이 정확한 공로 배분, 독립 검토, 통상적인 학술 교류를 보장하는 방식으로 공개될 수 있는지도 문제다.

IAS 주최 자문그룹이 할 수 있는 일과 못 하는 일

OpenAI는 프린스턴 고등연구소(IAS)가 주최하는 무급·독립 9인 자문기구 ‘수학과 인공지능 자문그룹’을 발표했다. 보도에 따르면 티머시 가워스와 마틴 하이러 등이 참여한다.45

이 그룹의 목적은 AI가 만든 수학 결과의 평가와 소통 과정에 수학자들이 참여하도록 하고, 검토 및 공개 관행에 조언하는 데 있다.515

그러나 이 기구는 규제기관이 아니라 자문기구다. 현재 보도 기준으로는 OpenAI에 원증명 공개를 강제하거나, 연구 일정과 발표를 통제·거부하거나, 저자와 공로를 최종 판정할 권한이 없다.7

전문가의 조언은 투명성과 소통을 개선할 수 있다. 하지만 그것만으로 기업 내부의 주장을 수학계가 인정한 정리로 바꾸지는 못한다.

밀레니엄상이 아직 가능한 단계가 아닌 이유

클레이 수학연구소의 규정은 명확하다. 밀레니엄상 해법 후보를 심사하려면 적격 출판물에 먼저 게재돼야 하며, 출판 후 최소 2년이 지나야 하고, 전 세계 수학계의 일반적 수용을 받아야 한다.46

기업 블로그, 사전공개 논문, 코드 저장소, 자문그룹의 평가만으로는 자동으로 이 조건을 충족하지 못한다. CMI도 나비에–스토크스 발표 이후, 상 규정이 성과 평가 절차와 공로 귀속을 함께 다룬다고 밝혔다.42

즉 OpenAI의 나비에–스토크스 결과나 이후 결과가 언젠가 옳은 것으로 판명되더라도, 9월 발표만으로 곧바로 상 후보가 되지는 않는다. 정식 출판과 학계의 수용이라는 기존 절차를 통과해야 한다.

정리

OpenAI는 내부 AI 모델이 미해결 수학 문제 100개 이상을 해결했다고 주장했다. 그 전에 발표한 나비에–스토크스 해법에는 공개된 증명·형식화 자료가 있지만, 더 넓은 ‘100개 이상’ 포트폴리오에는 문제별 공개 증거 기록이 아직 없다.1311

현재로서 적절한 판단은 성급한 부정도 즉각적인 인정도 아니다. 이는 투명한 증명 공개, 전문가 검토, 신중한 공로 배분, 그리고 시간이 필요한 중대한 주장이다. 호지 추측처럼 또 다른 밀레니엄 난제가 풀렸다는 주장에는 특히 더 엄격한 기준이 필요하다.

먼저 결론: ‘해결했다’는 회사의 주장과 ‘정리로 인정받았다’는 것은 다르다

OpenAI의 9월 21일 발표는 매우 큰 연구 성과 주장이지만, 수학계가 이미 결론을 내린 결과는 아니다. 회사는 8월 28일부터 훈련한 이름 비공개 내부 모델이 수학 대부분의 분야에서 오랫동안 풀리지 않은 문제 100개 이상을 해결했다고 밝혔다.515

현재 공개 자료가 뒷받침하는 것은 OpenAI가 그런 주장을 했다는 사실이다. 반면, 100여 개 각각의 문제가 외부 전문가에게 독립적으로 검토되고 수학계에서 받아들여졌다는 점은 아직 공개적으로 입증되지 않았다.

OpenAI가 무엇을 발표했나

앞서 OpenAI는 9월 8일, 비공개 내부 모델을 활용한 약 1만 개 AI 에이전트가 88시간 동안 작업해 외력이 있는 3차원 나비에–스토크스 방정식에서 유한 시간 특이점을 찾아냈다고 발표했다. 회사는 이를 나비에–스토크스 존재성과 매끄러움 문제의 해법으로 설명했으며, 해석적 증명과 Lean 형식화를 만들었다고 밝혔다.113

이어 9월 21일에는 나비에–스토크스 외에도 내부 모델이 장기 미해결 문제 100개 이상을 해결했다고 발표 범위를 넓혔다.515

여기서 ‘해결했다(resolved)’는 표현은 OpenAI의 자체 규정이다. 각 결과가 논문으로 출판됐거나, 독립 검증을 거쳤거나, 수학계의 합의를 얻었다는 뜻으로 읽어서는 안 된다.

공개된 증거와 공개되지 않은 기록

나비에–스토크스 결과에 대해서는 OpenAI가 해석적 증명과 Lean 형식화를 공개적으로 설명했다. Lean은 증명 보조 언어다. Lean이 검사한 결과는 특정 정의·공리·기존 라이브러리 아래 정밀하게 부호화된 정리가 논리적으로 따라온다는 강한 근거가 될 수 있다.13

하지만 ‘100개 이상’이라는 더 넓은 주장에는 공개 기록이 훨씬 제한적이다. 9월 21일 발표에는 문제들의 목록, 각 문제의 정확한 수학적 진술, 증명, 형식화 여부, 선행 연구와의 관계, 독립 심사 상태를 문제별로 정리한 공개 자료가 제시되지 않았다. 외부 연구자가 ‘100개 이상’이라는 숫자를 하나씩 감사할 수 없는 이유다.711

나비에–스토크스 증명 역시 독립적인 인간 동료심사가 완료됐거나 수학계가 일반적으로 받아들였다는 사실은 확인되지 않았다. 증명 산출물을 공개하거나 코드가 컴파일되는 일과, 학계의 검증·수용은 서로 다른 기준이다.146

호지 추측은 풀렸나

아니다. 제공된 공개 기록만으로는 호지 추측이 해결됐다고 볼 근거가 없다.

호지 추측은 클레이 수학연구소(CMI)가 선정한 밀레니엄 난제 중 하나다.37 보도에 따르면 OpenAI는 이름을 밝히지 않은 두 번째 밀레니엄 문제에서 ‘상당한 진전’을 이뤘다고 인정했지만, 그것이 호지 추측이라고 확인하지 않았고 증명도 공개하지 않았다.14

진전 보도나 추측은 연구 공동체가 검토할 수 있는 공개 증명을 대체하지 못한다. 정확한 정리와 뒷받침 자료가 공개되고 독립 평가가 이뤄지기 전까지는, OpenAI의 호지 추측 해법이 확립됐다고 말할 수 없다.

Lean 검증이 있어도 왜 읽기 어려운가

형식 검증과 인간이 이해하는 수학적 설명은 맞닿아 있지만 같은 일은 아니다.

Lean 형식화는 정해진 형식 체계 안에서 논리적 빈틈이 없다는 강한 보장을 제공할 수 있다. 다만 형식 증명은 정의, 보조정리, 라이브러리 의존성, 치환, 기술적 단계를 모두 명시해야 한다. 그래서 수학자가 핵심 아이디어를 한눈에 파악할 수 있는 개념적 논증으로 읽기 어려울 수 있다.

이는 ‘컴파일만 되면 무의미하다’는 뜻이 아니다. 다만 컴파일 여부만으로는 다음 질문에 답할 수 없다는 의미다.

• 형식화된 명제가 의도한 밀레니엄 난제의 정확한 진술과 일치하는가?
• 특이점 또는 구성의 핵심 아이디어는 무엇인가?
• 결정적 역할을 하는 추정과 논증은 무엇인가?
• 다른 연구자가 이어받아 발전시킬 수 있는 새롭고 견고한 결과인가?
• 관련 선행 아이디어의 공로는 어떻게 배분해야 하는가?

형식 검증은 검증 과정의 중요한 축이 될 수 있다. 그러나 그것만으로 간결한 인간용 해설, 연구의 출처와 공로, 학계의 합의가 자동으로 생기지는 않는다.

수학계의 반발: 공로와 우선권 문제

논란은 증명의 기술적 타당성에만 머물지 않았다. 필즈상 수상자 25명은 A Severe Misalignment of AI in Mathematics라는 공개서한에 서명해, AI 연구소들이 유명 난제를 모델 성능 시연 경쟁에 활용하는 데 반대했다. 관련 보도에 따르면 서명자들은 이런 유인이 수학 연구 문화와 연구자 양성에 해를 줄 수 있다고 경고했다.1921

수학자 트리스탄 버크마스터와 레벤트 알푀게를 둘러싼 우선권 분쟁도 있었다. 버크마스터는 당시 성명에서 OpenAI 내부 시스템이 외력이 있는 나비에–스토크스 방정식의 유한 시간 블로업 증명을 갖고 있다는 이야기를 들었다고 밝혔다. 또 자신과 알푀게가 검증과 해설을 마치기 전에 관련 연구를 공개해야 한다는 압박을 느꼈다고 썼다. 별도의 저소산성 나비에–스토크스 결과는 Lean 검증이 끝나지 않아 공개하지 않았다고도 설명했다.17

이 성명은 공개 시점, 공로, 출판 압박을 둘러싼 분쟁이 있었다는 중요한 자료다. 그러나 이것만으로 OpenAI가 다른 연구자의 성과를 복제했다는 사실이 입증되는 것은 아니다. OpenAI는 두 수학자의 관련 돌파구 소문을 들은 뒤 연구를 시작했으며, 그들의 우선권을 인정하는 동시 공개를 제안했다고 밝혔다.32

따라서 핵심 쟁점은 AI가 증명을 만들 수 있는가에만 있지 않다. AI 보조 발견이 정확한 공로 배분, 독립 검토, 통상적인 학술 교류를 보장하는 방식으로 공개될 수 있는지도 문제다.

IAS 주최 자문그룹이 할 수 있는 일과 못 하는 일

OpenAI는 프린스턴 고등연구소(IAS)가 주최하는 무급·독립 9인 자문기구 ‘수학과 인공지능 자문그룹’을 발표했다. 보도에 따르면 티머시 가워스와 마틴 하이러 등이 참여한다.45

이 그룹의 목적은 AI가 만든 수학 결과의 평가와 소통 과정에 수학자들이 참여하도록 하고, 검토 및 공개 관행에 조언하는 데 있다.515

그러나 이 기구는 규제기관이 아니라 자문기구다. 현재 보도 기준으로는 OpenAI에 원증명 공개를 강제하거나, 연구 일정과 발표를 통제·거부하거나, 저자와 공로를 최종 판정할 권한이 없다.7

전문가의 조언은 투명성과 소통을 개선할 수 있다. 하지만 그것만으로 기업 내부의 주장을 수학계가 인정한 정리로 바꾸지는 못한다.

밀레니엄상이 아직 가능한 단계가 아닌 이유

클레이 수학연구소의 규정은 명확하다. 밀레니엄상 해법 후보를 심사하려면 적격 출판물에 먼저 게재돼야 하며, 출판 후 최소 2년이 지나야 하고, 전 세계 수학계의 일반적 수용을 받아야 한다.46

기업 블로그, 사전공개 논문, 코드 저장소, 자문그룹의 평가만으로는 자동으로 이 조건을 충족하지 못한다. CMI도 나비에–스토크스 발표 이후, 상 규정이 성과 평가 절차와 공로 귀속을 함께 다룬다고 밝혔다.42

즉 OpenAI의 나비에–스토크스 결과나 이후 결과가 언젠가 옳은 것으로 판명되더라도, 9월 발표만으로 곧바로 상 후보가 되지는 않는다. 정식 출판과 학계의 수용이라는 기존 절차를 통과해야 한다.

정리

OpenAI는 내부 AI 모델이 미해결 수학 문제 100개 이상을 해결했다고 주장했다. 그 전에 발표한 나비에–스토크스 해법에는 공개된 증명·형식화 자료가 있지만, 더 넓은 ‘100개 이상’ 포트폴리오에는 문제별 공개 증거 기록이 아직 없다.1311

현재로서 적절한 판단은 성급한 부정도 즉각적인 인정도 아니다. 이는 투명한 증명 공개, 전문가 검토, 신중한 공로 배분, 그리고 시간이 필요한 중대한 주장이다. 호지 추측처럼 또 다른 밀레니엄 난제가 풀렸다는 주장에는 특히 더 엄격한 기준이 필요하다.