AI '클로드 페이블 5', 87년 묵은 수학 난제 '야코비안 추측'을 216자로 반증하다

야코비안 추측이란?

야코비안 추측(Jacobian conjecture)은 대수기하학의 핵심 난제로, 1884년 루트비히 크라우스(Ludwig Kraus)가 2변수에 대해 처음 제기했고, 1939년 오트-하인리히 켈러(Ott-Heinrich Keller)가 N변수로 일반화했습니다 . 이 추측은 다항함수 F: ℂⁿ → ℂⁿ의 야코비 행렬식(편도함수 행렬의 행렬식)이 모든 점에서 0이 아닌 상수라면, F는 반드시 다항식 역함수를 가지는 전단사 함수(다항 자기동형사상, polynomial automorphism)여야 한다는 내용입니다 . 이러한 조건을 만족하는 함수를 **켈러 맵(Keller map)**이라고 부릅니다. 이 추측은 스티븐 스메일(Stephen Smale)의 1998년 '21세기를 위한 수학 문제' 목록에서 16번으로 선정될 정도로 중요한 문제였으며, 수많은 잘못된 증명이 발표된 것으로도 악명 높았습니다 .

레벤트 알포게, 어떻게 '클로드 페이블 5'를 사용했나

2026년 7월 19일에서 20일로 넘어가는 밤, 레벤트 알포게(Levent Alpöge) 수학자는 FIFA 클럽 월드컵 결승전을 시청하고 있었습니다. 알포게는 하버드 소사이어티 오브 펠로우즈에서 주니어 펠로우십을 역임한 정수론 학자로, 현재 AI 기업 앤트로픽(Anthropic)에서 연구원으로 재직 중입니다 . 경기를 보던 중 친구인 아킬 마튜(Akhil Mathew)가 야코비안 추측에 대해 물어봤고 , 알포게는 앤트로픽의 클로드 페이블 5(Claude Fable 5) 모델에 문제를 던졌습니다. AI가 돌려준 답변은 단 216자 길이의 구체적인 다항식 맵이었습니다. 이 맵은 0이 아닌 상수 야코비 행렬식을 가지는 조건을 만족하면서도 단사함수(injective)가 아니어서 추측의 결론을 정면으로 위반했습니다 .

알포게는 2026년 7월 19일 X(트위터)에 결과를 게시하며 이렇게 썼습니다: "안녕하세요, 야코비안 추측은 거짓입니다. 월드컵 결승전 중에 이 문제에 대해 물어본 친한 친구 아킬과 작업해준 또 다른 친구 페이블에게 감사드립니다" .

구체적인 반례

반례는 F: ℂ³ → ℂ³로 정의되는 다항식 맵이며, 구체적인 식은 다음과 같습니다 :

P(x, y, z) = (1 + xy)³z + y²(1 + xy)(4 + 3xy)
Q(x, y, z) = y + 3x(1 + xy)²z + 3xy²(4 + 3xy)
R(x, y, z) = 2x − 3x²y − x³z

이 맵의 두 가지 핵심 성질은 다음과 같습니다 :

• 야코비 행렬식: det Jac F = −2 (0이 아닌 상수), 즉 F는 켈러 맵입니다.
• 단사성 위반: 서로 다른 세 입력점이 모두 동일한 출력 (-1/4, 0, 0) 으로 수렴합니다:
  • (0, 0, -1/4)
  • (1, -3/2, 13/2)
  • (-1, 3/2, 13/2)

단사함수가 아닌 맵은 다항식 역함수를 가질 수 없으므로(어떤 역함수도 f(a)=f(b)인 서로 다른 a, b에 대해 동시에 두 값을 되돌릴 수 없음), F는 야코비안 추측의 결론과 정면으로 모순됩니다. 이 구성은 모든 계수와 증인 점이 유리수이므로 표수가 0인 모든 체에서 유효하게 작동합니다 .

동반된 프리프린트(2026년 7월 20일자)에는 완전한 대수적 검증, F의 전역 기하학 분석, 그리고 F가 다항 자기동형사상이 아니게 되는 메커니즘인 비고유성 집합(nonproperness set)이 초곡면(hypersurface)임을 증명하는 내용이 포함되어 있습니다 . 이 논문은 또한 이러한 반례의 무한 패밀리를 구성하는 방법도 제시합니다 .

2변수 경우의 현황

n = 2(2개의 복소변수)에 대한 야코비안 추측은 2026년 7월 현재 여전히 열린 문제로 남아 있습니다. 이번 반례는 차원 n ≥ 3에 대해서만 추측을 반증한 것입니다 .

현재 검증 상태 및 동료 심사 현황

2026년 7월 22일 기준, 확인된 사항은 다음과 같습니다:

• 수학적으로 신뢰할 수 있음: 반례는 명시적이고 기계적으로 확인 가능합니다. 수학자들은 이를 진지하게 받아들이고 있습니다 . 린 4(Lean 4) 를 통한 형식적 검증(formal verification)이 완료되어 지속적 통합(CI) 빌드를 통과했습니다 .
• 아직 동료 심사 미완료: 최신 보고 기준으로 공식 동료 심사를 거친 논문이나 arXiv 프리프린트는 존재하지 않습니다 . 자료는 소셜 미디어 게시물과 ulam.ai의 동반 PDF 형태로만 존재하며, 공식 학술지 심사를 통과하지 못했습니다.
• 위키피디아 업데이트 완료: 야코비안 추측의 위키피디아 항목은 이제 N > 2에 대해 추측을 반증하는 반례로 업데이트되었습니다 .
• 커뮤니티 평가: 평론가들의 의견은 수학적으로 거의 확실히 옳다는 쪽으로 모아지지만, 공식적인 인용과 학술 기록 등재는 현재 시점에서 여전히 진행 중입니다 . 이 결과는 클로드가 단독으로 만들어낸 것이 아니라 인간-AI 협업의 결과물로 인정받고 있습니다 .

결론: 야코비안 추측은 차원 ≥ 3에서 확실히 거짓인 것으로 보입니다. 2변수 경우는 여전히 열린 문제입니다. 반례는 수학적으로 건전하며 독립적인 검증이 완료되었지만, 아직 공식적인 동료 심사를 통과하지 못했습니다.