Лейденская декларация: Как более 150 математиков проводят черту перед бесконтрольным ИИ

Пять угроз, меняющих облик математики

Декларация выделяет пять отдельных, но взаимосвязанных опасностей, каждая из которых бьет по фундаментальным ценностям математической практики.

1. Недостоверные и непроверяемые доказательства
Математика строится на доказательствах, которые можно независимо проверить и глубоко понять. Однако системы ИИ способны генерировать аргументы, которые выглядят правдоподобно, но содержат почти незаметные ошибки — ложные доказательства, которые людям трудно обнаружить . Эта проблема касается не только генерации текстов: она проявляется и в системах формальных доказательств, когда исходная логика оказывается скрытой .

2. Разрушение системы авторства и массовое нарушение авторских прав
Модели ИИ обучаются на опубликованных работах ученых без их согласия и зачастую не указывают источники. Результатом становится системный сбой в системе признания заслуг, из-за чего становится невозможно проследить интеллектуальную преемственность или вознаградить авторов идей. Декларация настаивает на том, что авторы должны активно искать первоисточники и, если полное указание авторства невозможно, прямо заявлять об этом ограничении .

3. Двухуровневая система: зависимость и неравенство
По мере того как передовые исследования становятся привязанными к дорогим проприетарным моделям и вычислительным мощностям, математика рискует оказаться в будущем, где конкурировать смогут только хорошо финансируемые лаборатории. Это создает структурное неравенство, подрывающее традиционно открытый и меритократический характер науки .

4. Раздутая шумиха, вводящая в заблуждение политиков
Технологические компании, движимые сильными коммерческими стимулами, преувеличивают математические способности своих инструментов . Они объявляют о результатах в соответствии с рыночными циклами, через пресс-релизы, а не через рецензируемую науку, и используют успехи в математических тестах как маркетинговый показатель «общего интеллекта» — утверждение, которое декларация категорически отвергает . Авторы призывают правительства при формировании научной политики обращаться к экспертным оценкам, а не к пиар-материалам .

5. Утрата автономии исследований
Когда корпоративные интересы и техническая осуществимость диктуют, что изучать, математика рискует потерять контроль над собственной повесткой. Приоритеты исследований смещаются в сторону краткосрочной коммерческой отдачи, а не глубокого, движимого любопытством поиска, что угрожает долгосрочному здоровью дисциплины .

Чего требует декларация

Лейденская декларация не просто ставит диагноз проблемам, но и предписывает конкретные, осуществимые нормы для четырех ключевых групп .

Индивидуальные исследователи обязаны:

• Раскрывать все инструменты ИИ, промпты и методы, использованные в их работе .
• Рассматривать ИИ исключительно как инструмент и никогда как соавтора. Люди несут полную ответственность за корректность, указание авторства и этичное использование .
• Быть в курсе новых технологий и участвовать в публичных дебатах об их последствиях .

Институты, журналы и спонсоры обязаны:

• Разработать обязательные к исполнению правила касательно авторства ИИ, прозрачности, рецензирования и интеллектуальной собственности .
• Создать структуры правовой и этической поддержки, помогающие исследователям вести переговоры с могущественными технологическими компаниями .
• Включить основные ценности декларации в критерии оценки и решения о финансировании, вместо того чтобы поощрять лишь скорость вычислений .

Правительства обязаны:

• Прекратить принимать на веру заявления корпораций об их возможностях и вместо этого консультироваться с независимыми экспертными группами .
• Регулировать индустрию ИИ для предотвращения монопольного контроля над исследовательской инфраструктурой .
• Инвестировать в финансируемые государством открытые альтернативы коммерческим ИИ-инструментам, чтобы доступ к ним не зависел от богатства учреждения .

Индустрия обязана:

• Отказаться от практики использования исследовательских публикаций в качестве данных для обучения без согласия авторов и обеспечить реальные механизмы отказа для ученых .
• Соблюдать те же стандарты прозрачности и указания авторства, которых требует от себя академическое сообщество, когда промышленные лаборатории публикуют работы совместно с академическими партнерами .

Большая битва: доказательства, власть и общественное доверие

Лейденская декларация касается не только математики. Ее авторы рассматривают эту борьбу как предвестник для научной политики во всем мире. Они утверждают, что те же системы ИИ, которые производят недостоверные доказательства, могут быть использованы для ведения войн и массовой слежки, и призывают математиков этически оценивать свою работу и даже выходить из вредоносных проектов .

Более глубокое предупреждение носит эпистемологический характер: когда коммерческие сроки заменяют рецензирование, а корпоративная шумиха заглушает осторожность экспертов, общественное понимание того, что является научной истиной, искажается . Математика — дисциплина, которая долгое время гордилась четкими, неподвластными времени стандартами, — теперь оказалась на передовой этой большой битвы.

Практически каждая рекомендация в декларации вращается вокруг единственного принципа: прозрачность. Не зная, когда и как использовался ИИ, научное сообщество не может проверить результаты, установить авторство или защитить свои собственные стандарты. Имея на старте более 130 подписантов и институциональную поддержку таких организаций, как Международный математический союз, Лейденская декларация уже стала чем-то большим, чем просто заявление: это рабочий проект норм, которые, по мнению математиков, требует эпоха ИИ .