AI가 수학 난제를 풀었을까? 메타가 공개한 논문 6편의 의미

메타는 10월 2일, 수학자들이 뮤즈 스파크(Muse Spark)와 협업해 연구 논문 6편을 만들었으며 이 가운데 5편이 기존에 답이 알려지지 않았던 문제를 다룬다고 발표했다. 이는 챗봇이 혼자 수학 문제를 풀어 논문 6편을 완성했다는 뜻이 아니다. 메타의 설명에 따르면 수학자들이 연구를 이끌고 논증을 발전시켰으며, 별도의 수학자 그룹이 결과를 검토했다. 17

논문 6편은 어떤 분야를 다뤘나

공개된 연구는 수학의 여러 분야에 걸쳐 있다. 메타가 소개한 결과와 논문 목록에는 다음과 같은 내용이 포함된다.

• 확률과 기하학: The Strict Threshold for Gaussian Ellipsoid Fitting은 무작위 가우스 벡터가 정하는 조건을 만족하는 양의 준정부호 행렬이 존재하는지 살펴본다. 연구진은 임계값이 대략 n ∼ d²/4라고 제시했다. 1
• 군론: 2024년에 제안된 추측의 반례로 원소가 384개인 군을 제시한 결과가 있다. 20
• 대수학: On Solvable Evolution Algebras and a Conjecture by García-Martínez and Pérez-Rodríguez는 제목에 언급된 추측을 다룬다. 4
• 최적화: Tightness of the Cycle-Based Relaxation for Completed Length-Three Alpha-Cycles는 특정 순환 기반 완화 기법이 얼마나 정확하게 작동하는지를 살핀다. 4
• 수리물리학: 논문 목록에는 String Two-Point Function = Height Function on a Curve가 포함됐다. 4
• 미분방정식: 질량 임계 이중조화 비선형 슈뢰딩거 방정식에서 방사형 음의 에너지 해의 유한 시간 폭발을 다룬 연구도 목록에 올라 있다.

다만 메타가 말한 ‘논문 6편 중 미해결 문제 5개’가 각 논문과 어떤 문제를 가리키는지, 공개된 논문 목록만으로는 여섯 편 전체를 하나씩 대응해 확인하기 어렵다. 따라서 논문마다 별개의 미해결 문제가 하나씩 해결됐다고 받아들이기보다는, 메타가 제시한 집계와 개별 논문의 내용을 구분해 볼 필요가 있다. 174

연구진은 뮤즈 스파크를 어떻게 활용했나

연구자들은 뮤즈 스파크 1.1과 1.2를 ‘싱킹 모드(Thinking Mode)’로 사용했다. 접근 경로는 별도의 연구용 도구나 맞춤형 시스템이 아니라 일반 meta.ai 채팅 화면이었다. 메타에 따르면 수학자들이 연구 방향을 정하고 모델과 함께 아이디어를 탐색해 논증을 발전시켰으며, 다른 수학자 그룹이 결과를 검토했다. 논문에는 연구자가 주로 작성한 대목과 AI의 도움을 받아 작성한 대목도 구분해 표시했다. 17

이런 역할 분담은 성과를 해석할 때 중요하다. AI가 아이디어나 논증, 코드 작성에 기여할 수는 있지만, 이번 협업에서 문제를 선택하고 결과를 검토한 주체는 연구진이다. 군론 논문의 경우, 외부 보도에 따르면 뮤즈 스파크가 군론 소프트웨어 GAP용 탐색 프로그램을 작성했고, 수학자들이 반례를 확인한 뒤 증명을 완성했다. 모델이 자기 결과를 스스로 인증한 것은 아니다. 20

성과를 평가할 때 남는 쟁점

이번 논문들은 AI 모델이 사람의 지도 아래 수학 연구에 기여할 수 있다는 사례다. 그렇다고 결과가 독점적인 발견이라거나 모델의 수학적 출력이 일반적으로 신뢰할 만하다는 점까지 입증하는 것은 아니다. 일부 결과는 다른 연구팀이 독립적으로 도달했다는 보도도 있어, 연구 우선권이나 기여도를 논할 때는 결과가 얼마나 겹치는지 살펴야 한다.

또한 수학자의 검토와 형식 검증은 같은 절차가 아니다. 형식 검증은 증명을 엄격한 언어로 표현해 컴퓨터가 단계별로 확인하도록 하는 방식이다. 메타의 설명에는 사람의 검토가 언급돼 있지만, 논문마다 증명 보조기(proof assistant)를 이용해 기계 검증했는지는 공개된 자료만으로 확인되지 않는다. 17

뮤즈 스파크는 2026년 4월 8일 메타 슈퍼인텔리전스 랩스의 첫 모델로 공개됐다. 10월에 발표된 논문들은 이후 이 모델이 연구 협업에 활용된 사례를 보여준다. 다만 이를 AI가 제시하는 수학적 주장이 오류가 없다는 증거로 볼 수는 없다. 그런 판단을 위해서는 논문의 논증을 검토하고, 독립적인 후속 검증이 이뤄지는지 확인해야 한다.