AI가 수학의 근본을 흔들 때: 라이덴 선언이 제시하는 다섯 가지 위기와 해법

수학계를 위협하는 다섯 가지 그림자

이 선언문은 수학 연구의 근간을 이루는 가치들을 정면으로 위협하는 다섯 가지 위험 요소를 구체적으로 지목한다.

1. 믿을 수 없는 증명: 겉만 그럴듯한 오류 덩어리
수학은 누구나 독립적으로 검증하고 깊이 이해할 수 있는 증명 위에 세워진 학문이다. 하지만 AI 시스템은 인간이 보기에 그럴듯해 보이지만 거의 눈에 띄지 않는 치명적인 오류를 포함한 논증을 만들어낸다. 이는 일반 텍스트 생성뿐만 아니라, 형식 증명 시스템에서도 논리적 근거가 불투명할 때 동일하게 발생하는 문제다 . 인간의 검증 능력을 뛰어넘는 ‘거짓 증명’의 홍수가 학계의 신뢰성을 뒤흔들 수 있는 것이다.

2. 주인 잃은 연구 성과: 저작권 침해와 기여도 붕괴
AI 모델은 연구자들의 동의 없이 출판된 논문과 데이터를 학습하고, 그 출처를 거의 밝히지 않는다. 이는 지적 계보를 추적하기 어렵게 만들고, 독창적인 연구자에게 돌아가야 할 정당한 공로를 무너뜨리는 심각한 시스템적 문제다. 선언문은 저자들이 AI가 사용한 선행 연구의 출처를 적극적으로 찾아 밝혀야 하며, 완전한 기여도 표기가 불가능할 경우 그 한계를 반드시 명시해야 한다고 촉구한다 .

3. 부익부 빈익빈: 양극화되는 연구 생태계
최첨단 연구가 값비싼 독점 모델과 막대한 컴퓨팅 파워에 종속되면서, 수학계는 자본이 풍부한 소수 연구실만이 살아남을 수 있는 구조로 변질될 위기에 놓였다. 이는 전통적으로 개방성과 능력 중심으로 작동해 온 수학계의 오랜 미덕을 훼손하는 깊은 구조적 불평등을 초래한다 .

4. 거짓 과시와 정책 왜곡: ‘과대 포장’을 멈춰라
기술 기업들은 강력한 상업적 동기에 따라 자신들의 AI 도구가 가진 수학적 능력을 과장한다 . 이들은 동료 평가를 거친 과학적 절차 대신 시장 출시 일정에 맞춰 보도자료를 통해 결과를 발표한다. 특히 수학 벤치마크 점수를 마치 범용 인공지능인 것처럼 마케팅 도구로 악용하는 행태에 대해 선언문은 단호하게 반박한다 . 이에 연구진들은 정부가 과학 정책을 수립할 때 기업의 홍보 자료가 아닌 전문가 집단의 평가를 참고해야 한다고 강하게 권고한다 .

5. 길 잃은 연구: 자율성을 빼앗긴 학문
기업의 이익과 기술적 유행이 연구 주제를 결정하게 될 때, 수학은 스스로 연구 방향을 통제할 힘을 잃는다. 깊은 호기심이 이끄는 기초 연구보다 단기적인 상업적 이윤을 좇는 연구가 최우선 순위로 떠오르면서, 학문의 장기적인 건강함이 심각한 위협을 받는다 .

선언이 요구하는 네 가지 행동 강령

라이덴 선언은 단순히 문제를 진단하는 데 그치지 않고, 네 그룹의 주체에게 구체적이고 실천 가능한 규범을 요구한다 .

개인 연구자는 반드시:

• 연구에 사용된 모든 AI 도구, 프롬프트, 방법론을 상세히 공개해야 한다 .
• AI를 절대 공동 저자로 취급하지 말고 순수한 도구로만 사용할 것. 증명의 정확성, 기여도 표시, 윤리적 사용에 대한 모든 책임은 오직 인간 저자에게 있다 .
• 새로운 기술 동향을 파악하고, 기술의 사회적 결과에 대한 공개 토론에 적극적으로 참여해야 한다 .

연구 기관, 저널, 연구비 지원 기관은 반드시:

• AI 저작권, 투명성, 피어 리뷰, 지식 재산권에 관한 구속력 있는 정책을 개발해야 한다 .
• 연구자들이 거대 기술 기업과의 협상에서 법적·윤리적으로 보호받을 수 있도록 지원 체계를 구축해야 한다 .
• 단순한 계산 속도가 아니라, 선언문의 핵심 가치들을 평가 기준과 연구비 지원 결정에 깊이 녹여내야 한다 .

정부는 반드시:

• 기업의 능력 주장을 액면 그대로 받아들이는 것을 중단하고, 독립적인 전문가 그룹의 조언을 구해야 한다 .
• 연구 인프라에 대한 독점적 통제를 막기 위해 AI 산업을 규제해야 한다 .
• 기관의 재정 상태와 상관없이 누구나 최첨단 연구에 접근할 수 있도록, 공적 자금으로 운영되는 개방형 AI 도구에 투자해야 한다 .

산업계는 반드시:

• 연구 논문을 동의 없이 학습 데이터로 활용하는 관행을 폐기하고, 저자가 자신의 연구 결과물이 AI 학습에 사용되는 것을 거부할 수 있는 실질적인 장치(옵트아웃)를 마련해야 한다 .
• 학계와 협력하여 논문을 발표할 때는, 학계가 스스로에게 요구하는 것과 동일한 수준의 투명성과 기여도 표시 기준을 충실히 따라야 한다 .

진리, 권력, 그리고 공적 신뢰를 건 더 큰 싸움

라이덴 선언은 단지 수학계의 골방 이야기가 아니다. 저자들은 이 투쟁이 곧 전 세계 과학 정책의 ‘신호탄’이라고 주장한다. 신뢰할 수 없는 증명을 쏟아내는 동일한 AI 시스템이 전쟁과 대량 감시라는 더 큰 사회적 해악을 위해 무기화될 수 있음을 경고하며, 수학자들에게도 자신의 연구가 어디에 쓰이는지 윤리적으로 평가하고 필요시 유해한 프로젝트에서 손을 떼야 한다고 촉구한다 .

더 깊은 본질은 인식론에 있다. 상업적 마감이 동료 평가를 대체하고, 기업의 광고가 전문가의 신중한 경고를 압도할 때, 무엇이 과학적 진리인지에 대한 대중의 이해 자체가 왜곡된다 . 오래도록 명확하고 보편적인 기준을 자랑스러워해 온 수학은, 이제 그 더 큰 싸움의 최전선에 서 있다.

선언문의 거의 모든 권고는 하나의 핵심 원칙, 즉 투명성으로 수렴한다. 언제, 어떻게 AI가 사용되었는지 알 수 없다면, 과학 공동체는 결과를 검증할 수도, 공로를 할당할 수도, 자신들의 기준을 방어할 수도 없기 때문이다. 발표 당시 130명이 넘는 서명자와 국제수학연맹(IMU) 같은 기관의 지지를 등에 업은 라이덴 선언은 단순한 성명문을 넘어, AI 시대에 수학자들이 반드시 갖춰야 할 규범의 실천적 초안으로 자리매김하고 있다 .