AI, 순수 수학의 벽을 넘다: 2026년 두 가지 혁신적 돌파구

2026년, 인공지능이 순수 수학의 역사적인 이정표를 세웠습니다. AI 시스템이 수십 년간 인간 수학자들을 괴롭혀 온 미해결 난제를 독자적으로 해결한 것입니다. 그 중에서도 오픈AI(OpenAI)의 '에르되시 단위 거리 추측(Erdős unit-distance conjecture)' 반증(2026년 5월)과 앤트로픽(Anthropic)의 '야코비안 추측(Jacobian conjecture)' 반례 발견(2026년 7월)은 단순한 진보를 넘어, 수학 연구의 패러다임을 바꾸는 신호탄으로 평가받고 있습니다.

두 가지 결정적 돌파구

오픈AI, 에르되시 단위 거리 추측을 반증하다 (2026년 5월)

2026년 5월 20일, 오픈AI는 자사의 범용 추론 모델이 에르되시 단위 거리 추측에 대한 반례를 찾아냈다고 발표했습니다. 이 추측은 1946년 수학자 폴 에르되시(Paul Erdős)가 제기한 문제로, 평면 위의 n개의 점 중 정확히 한 단위(unit) 거리만큼 떨어진 점 쌍의 최대 개수에 관한 것입니다 . 80년 동안 수학자들은 점들이 대략 정사각형 격자 모양으로 배열될 때 가장 많은 쌍이 생긴다고 믿어왔습니다 .

오픈AI의 모델은 이 믿음이 틀렸음을 증명했습니다. AI는 정사각형 격자보다 더 나은 성능을 보이는 점 배열의 무한한 패밀리를 생성했습니다. 즉, 특정 상수 δ > 0에 대해 무한히 많은 n에서 단위 거리 쌍의 수가 n^(1+δ)보다 빠르게 증가한다는 사실을 증명한 것입니다 . 이 증명은 골로드-샤파레비치 이론(Golod-Shafarevich theory)과 무한 유체 탑(infinite class field towers) 같은 정교한 대수적 정수론의 도구들을 사용했는데, 이전까지 누구도 이를 이 기하학 문제와 연결하지 못했습니다 .

이 결과는 외부 수학자 그룹에 의해 검증되었습니다. 여기에는 과거 오픈AI의 잘못된 주장을 공개적으로 반박했던 연구자 토마스 블룸(Thomas Bloom)도 포함되어 있습니다 . 인간이 이해할 수 있는 방식으로 재구성된 동반 논문은 아카이브(arXiv)에 게재되었습니다 . 프린스턴 대학의 윌 소윈(Will Sawin) 수학자는 이 상수를 더 정밀하게 다듬어 지수가 최소 n^1.014까지 도달할 수 있음을 보여주었습니다 . 필즈 메달리스트 팀 가워스(Tim Gowers)도 증명을 검증한 9명의 외부 수학자 중 한 명이었습니다 .

앤트로픽의 클로드 페이블 5, 야코비안 추측의 반례를 찾다 (2026년 7월)

2026년 7월 19일, 앤트로픽에서 근무하는 수학자 **레벤트 알포게(Levent Alpöge)**는 앤트로픽의 클로드 페이블 5(Claude Fable 5) 모델을 사용하여 야코비안 추측에 대한 반례를 찾았다고 X(구 트위터)를 통해 발표했습니다. 이 추측은 1939년 오트-하인리히 켈러(Ott-Heinrich Keller)가 제기한 대수 기하학의 87년 된 미해결 난제입니다 . 필즈 메달리스트 스티븐 스메일(Stephen Smale)이 1998년 선정한 '21세기 수학 문제' 목록에서 16위에 오를 정도로 중요한 문제였습니다. 이 추측은 '야코비 행렬식(Jacobian determinant)'이 0이 아닌 상수인 다항식 함수는 반드시 전역적으로 역함수가 존재한다는 내용을 담고 있습니다 .

알포게가 발견한 반례는 놀라울 정도로 간결했습니다. 불과 216자로 표현되는 C³에서 C³로 가는 다항식 함수로, 야코비 행렬식은 항상 -2로 일정하지만, 세 개의 서로 다른 입력값이 동일한 출력값을 가지도록 설계되어 전역적 가역성을 부정합니다 . 발표 직후 전 세계 수학자들이 독립적으로 검증에 나섰고, 불과 24시간 만에 린(Lean) 증명 보조기구를 통한 공식 검증까지 완료되었습니다 .

저명한 수학자 **테렌스 타오(Terence Tao)**와 티모시 가워스는 이 결과를 극찬했습니다 . 타오는 이 반례에 대한 기하학적 분석 논문을 발표했으며, 수학계 전반에서 검증이 신속하게 이루어졌습니다 . 현재 2차원 버전의 추측은 여전히 미해결 상태로 남아 있습니다 .

수학의 미래를 바꾸는 의미

AI, 진정한 새로운 증명을 창조하다

두 성과 모두 단순한 계산 보조가 아닌 깊은 개념적 도약을 포함합니다. 단위 거리 추측의 반증은 AI가 대수적 정수론과 조합 기하학을 연결하는, 그 누구도 시도하지 않은 접근법을 스스로 발견했다는 점에서 의미가 깊습니다 . 야코비안 반례 또한 특정 대수적 성질을 가진 미묘한 다항식 함수를 AI가 구성해 냈습니다 .

인간과 AI의 협력 모델이 입증되다

이 결과들은 AI가 인간을 대체하는 것이 아니라 창의적인 협력자로 기능할 수 있는 미래를 제시합니다. 야코비안 추측의 경우, 숙련된 수학자가 AI를 지휘하고 그 출력의 중요성을 인지했습니다 . 오픈AI의 경우 모델이 더 자율적으로 작업했지만, 여전히 인간의 검증이 필요했습니다 . 이 협력 모델은 AI가 인간이 효율적으로 탐색할 수 없는 거대한 탐색 공간을 탐험하고, 인간은 직관, 판단력, 검증을 제공함으로써 시너지를 창출합니다.

연구 속도가 급격히 빨라지고 있다

오픈AI는 2026년 8월, 동일한 유형의 내부 추론 모델이 고차원 기하학, 부호 이론, 군론, 작용소 대수, 양자 복잡성, 격자 암호, 극단 조합론 등 수학과 이론 컴퓨터 과학 분야의 10가지 주요 문제에서 진전을 이루었다고 발표했습니다 . 전문가들은 이를 'AI가 이끄는 수학의 새로운 황금기'라고 표현하고 있습니다 .

여전히 남은 과제들

야코비안 반례는 3차원 이상에서만 적용되며, 2차원의 원래 추측은 여전히 열려 있습니다 . 또한 모든 결과가 전통적인 학술지의 동료 심사를 완전히 통과한 것은 아니며, 모든 주장이 완전히 출판된 것도 아닙니다 . 하지만 전체적인 방향성은 명확합니다. AI는 수학적 조수에서 수학적 발견자로의 문턱을 넘었으며, 그 역할은 앞으로 더욱 빠르게 확대될 것입니다.

더 큰 그림

이번 2026년의 돌파구는 AI의 수학적 능력이 빠르게 발전해온 결과입니다. 2025년 7월, AI 모델들은 처음으로 국제수학올림피아드(IMO) 문제 6개 중 5개를 풀었습니다 . 2026년 초에는 IMO에서 금메달 수준의 성과를 내기 시작했고 , 이제는 연구 최전선에서 결과를 생산하며 한 세대의 수학자들이 평생을 바쳐 도전했던 문제들을 해결하고 있습니다.

수학자 테렌스 타오가 지적했듯이, 야코비안 추측의 결과는 인간과 AI의 협력에 있어 중요한 이정표입니다 . AI는 혼자 일하지 않았지만, 인간과 기계의 협력은 둘 중 누구도 단독으로는 달성할 수 없었던 결과를 만들어냈습니다. 인간의 직관이 AI의 탐험을 안내하고, 형식 증명 보조기구가 이를 검증하는 이 모델이 바로 앞으로 수학적 발견의 미래를 정의할 것입니다.