오픈AI '아스트라(Astra)', 10년 넘게 풀리지 않았던 수학 난제 10개를 약 280만 원에 해결하다

2026년 8월 1일, 오픈AI는 아직 공개되지 않은 차세대 모델 '아스트라(Astra)'의 내부 버전이 수학 및 이론 컴퓨터 과학 분야에서 10개의 새로운 결과를 도출했다고 발표했습니다. 이 문제들은 각각 최소 10년 이상 풀리지 않았던 난제들입니다. 회사는 249페이지 분량의 원고를 공개하고, 모든 결과에 대한 기계 검증 가능한 린(Lean) 4 증명 인증서를 아파치 2.0 라이선스로 깃허브에 게시했습니다. 오픈AI는 이 10개 해법을 생성하는 데 사용된 토큰 비용이 솔(Sol) API 요금 기준으로 약 **2,000달러(약 280만 원)**였다고 밝혔습니다. 이 발표는 결과 자체에 대한 기대와 함께, 그 구성 방식과 한계에 대한 회의적인 시각을 동시에 불러일으켰습니다.

아스트라가 해결한 구체적인 문제들

오픈AI의 보고서에 따르면, 이 결과는 8개 분야에 걸쳐 있으며 증명, 반례, 개선된 경계값을 포함합니다.

• 비소픽 군(Non-sofic groups) — 미하일 그로모프(Mikhail Gromov)가 1999년 '소픽(sofic)' 개념을 도입한 이후 수십 년간 군론의 핵심 난제였던 비소픽 군의 존재에 대한 최초의 명시적 구성을 제시했습니다.
• 콘스 강성 추측(Connes's rigidity conjecture) — 폰 노이만 대수 분야에서 오랫동안 제기되어 온 추측을 반증했습니다.
• 고차원 구 채움(High-dimensional sphere packing) — 이미 해결된 차원을 넘어서는 구 채움에 대한 새로운 상한선을 제시했습니다.
• 폴 에르되시(Paul Erdős)가 제기한 세 가지 문제 — 다색 램지 수에 관한 에르되시 문제 183번을 포함한 세 가지 조합론 문제를 해결했습니다.
• 추가 결과 — 양자 병렬 반복, 격자 암호학의 최근접 벡터 문제, 산술 회로 복잡성, 이진 및 구형 코드, 에르하르트(Ehrhart) 부피 추측 등에서 새로운 결과를 도출했습니다.

오픈AI가 해법을 검증한 방법

오픈AI는 단순히 모델의 출력 결과에만 의존하지 않았습니다. 모든 결과에는 린(Lean) 4 형식 증명 인증서가 함께 제공되었습니다. 이는 누구나 개인용 노트북으로 독립적으로 검증할 수 있는 컴퓨터 검증 가능한 증명 파일입니다. 린은 공리부터 결론까지 모든 논리적 단계를 검사하여 오류, 유형 오류, 불일치를 찾아내는 증명 보조 도구입니다. 오픈AI는 모든 린 파일을 깃허브에 공개했으며, 저장소의 '미완성 단계(sorry)' 개수는 10개 증명 모두에서 0입니다.

그러나 여러 평론가들은 형식 검증(formal verification)에는 중요한 한계가 있다고 지적했습니다. 린은 형식적 진술이 그 형식적 정의를 따르는지 확인할 수 있지만, 보도 자료 요약이 형식적 정리를 정확하게 반영하는지, 형식적 정의가 수학계의 의도된 문제와 일치하는지, 또는 결과의 참신성과 역사적 구성이 정확한지까지는 인증할 수 없습니다. 전문가들은 여전히 진술의 충실도, 정의, 축소, 비형식적-형식적 연결고리를 감사(audit)해야 합니다.

비용: 2,000달러 상당의 토큰

오픈AI는 10개 해법을 생성하는 데 사용된 총 연산 비용이 솔(Sol) API 요금 기준으로 약 2,000달러라고 공개했습니다. 이 수치는 해법 탐색 토큰에만 해당하는 API 환산 가격으로, 실패한 시도, 병렬 탐색 실행, 증명서를 찾기 전에 소비된 내부 연산 비용은 제외됩니다. 이에 비해, 최상위 대학의 수학 박사 과정생 1명의 연간 연구비가 5만 달러(약 7천만 원)를 초과할 수 있다는 점에서, 많은 관찰자들에게 이 발표의 가장 놀라운 점은 비용 효율성이었습니다.

비판과 회의론

수학계와 AI 연구자들은 몇 가지 주의할 점을 제기했습니다.

• 수학계 내 의견 분분 — 결과에 대한 평가는 엇갈리고 있습니다. 일부 연구자들은 린 증명서가 형식적 정확성을 증명하지만, 그 결과가 중요하거나, 놀랍거나, 의도된 미해결 문제에 대한 해법으로 올바르게 구성되었는지를 보장하지는 않는다고 경고합니다.
• **게리 마커스(Gary Marcus, 인지 과학자)**는 "수학에서의 성공은 특수한 경우"라며, 한 분야의 전문성이 일반적인 추론 능력을 의미하지는 않는다고 주장했습니다. 그는 8가지 일반적인 오해를 나열하며, 이 결과를 모든 과학 분야로 일반화하는 것에 대해 경고했습니다.
• "AI 증명을 누가 검증하는가?" — 관찰자들은 불투명한 추론 과정을 가진 AI가 생성한 수학을 어떻게 감사할 것인지에 대한 미해결 과제를 제기했습니다. 블랙박스 모델의 결과가 이미 알려진 연구를 인용하지 않고 재구성한 것인지 평가하는 합의된 방법은 아직 없습니다.
• 동료 검토 및 투명성 부족 — 이 발표는 2026년 6월 수학자들이 AI 기업들이 동료 검토를 거치지 않고 보도 자료를 통해 성과를 발표하는 것을 비판하는 '레이던 선언(Leiden Declaration)' 직후에 나왔습니다. 오픈AI는 아스트라 모델을 공개적으로 출시하지 않았으며, 모델 카드를 제공하지 않았고, 2,000달러라는 비용 뒤에 숨은 실패율도 공개하지 않았습니다.
• 구글 딥마인드(Google DeepMind)와의 비교 — 회의론자들은 이전 AI 수학 관련 주장(예: 딥마인드의 알파지오메트리)이 이후 정밀 조사를 받았던 점을 상기시키며, 패러다임 전환을 선언하기 전에 신중을 기해야 한다고 촉구했습니다.

광범위한 영향

• 연구의 민주화 — 2,000달러라는 비용은 소규모 팀이나 개인이라도 AI를 사용하여 이전에는 수년간의 인간 전문 지식이 필요했던 진정한 연구 기여를 할 수 있는 미래를 시사합니다.
• 검증 문화의 위기 — 이 분야는 이제 독점 블랙박스 모델이 생성한 증명을 평가, 귀속 및 동료 검토하는 방법에 대한 합의된 표준이 시급히 필요하게 되었습니다.
• 수학의 상업적 통제 — 최첨단 수학적 발견이 독점 모델에 대한 API 접근에 의존하게 된다면, 핵심 연구 인프라는 공공 기관에서 민간 기업으로 이전됩니다.
• AI 능력의 새로운 기준 — 고정된 경쟁 문제(예: 국제 수학 올림피아드(IMO) 또는 MATH)를 푸는 것과 달리, 아스트라는 지식의 최전선을 확장하는 진정으로 새로운 미해결 문제 결과를 생성하여 'AI가 수학을 한다'는 것의 기준을 높였습니다. 맨체스터 대학교의 수학자 토마스 블룸(Thomas Bloom)은 이 결과를 "큰 뉴스"라고 평가하면서도, AI가 수학자를 대체한다는 생각은 거부했습니다. 그는 AI가 한 세기 이상의 수학 이론을 활용하고 수학자들에 의해 구축되었기 때문이라고 설명했습니다.