Лейденська декларація: Як понад 150 математиків проводять межу проти неконтрольованого ШІ

П’ять загроз, що змінюють математику

Декларація виокремлює п’ять тісно пов’язаних небезпек, кожна з яких б’є по фундаментальних цінностях науки.

1. Сумнівні докази, які неможливо перевірити
Математика стоїть на доказах, що підлягають незалежній перевірці та глибокому осмисленню. Натомість системи ШІ генерують аргументи, які виглядають правдоподібно, але містять майже непомітні помилки — фальшиві доведення, які людині вкрай важко виявити . Проблема стосується не лише звичайного тексту: вона проявляється навіть у формальних системах доведення, коли прихована логіка залишається непрозорою .

2. Крах авторства та масове порушення прав інтелектуальної власності
Моделі ШІ навчаються на опублікованих працях людей без жодного дозволу і часто не вказують першоджерела. Наслідком є системний злам інституту репутації: стає неможливо відстежити інтелектуальний родовід ідей чи справедливо винагородити першовідкривачів. Декларація наполягає, що автори мусять активно шукати першоджерела, а коли повне цитування неможливе — чесно вказувати на цю прогалину .

3. Двокласова система залежності та нерівність
Оскільки передові дослідження дедалі більше прив'язані до дорогих закритих моделей та колосальних обчислювальних потужностей, математика ризикує скотитися до стану, коли конкурувати зможуть лише заможні лабораторії. Це створює структурну нерівність, підриваючи традиційний меритократичний дух науки .

4. Роздмухування хайпу, що вводить в оману політиків
Технологічні компанії, мотивовані комерційним зиском, систематично перебільшують математичні здібності своїх продуктів . Вони оголошують про результати під ринкові дедлайни через пресрелізи, а не через рецензовані журнали, використовуючи успіхи в математичних тестах як маркетинговий важіль для доведення загального інтелекту — твердження, яке декларація відкидає категорично . Автори закликають уряди послуговуватися в науковій політиці висновками експертів, а не рекламними буклетами .

5. Втрата дослідницької незалежності
Коли корпоративні інтереси та технічна мода визначають, що вивчати, математика ризикує втратити контроль над власним науковим порядком денним. Пріоритети зсуваються в бік швидкого комерційного зиску замість фундаментальних пошуків, рухомих цікавістю, загрожуючи здоров’ю дисципліни в довгостроковій перспективі .

Чого вимагає Декларація

Замість того, щоб лише констатувати проблеми, Лейденська декларація пропонує конкретні, практичні норми для чотирьох ключових груп .

Окремі дослідники мусять:

• Розкривати всі використані інструменти ШІ, запити та методи .
• Ставитися до ШІ виключно як до інструменту — ні в якому разі не як до співавтора. Повна відповідальність за коректність, цитування та етику лежить на людині .
• Бути в курсі нових технологій та брати участь у публічних дискусіях щодо їхніх наслідків .

Установи, журнали та грантодавці мусять:

• Розробити обов'язкові до виконання правила щодо авторства ШІ, прозорості, рецензування та інтелектуальної власності .
• Створити правові та етичні механізми підтримки, які допоможуть науковцям у перемовинах із могутніми технокомпаніями .
• Вбудувати цінності декларації в критерії оцінювання та фінансування, замість заохочувати голу обчислювальну швидкість .

Уряди мусять:

• Припинити сприймати корпоративні заяви про можливості ШІ за чисту монету, натомість консультуватися з незалежними експертними групами .
• Регулювати ШІ-індустрію, щоб запобігти монопольному контролю над дослідницькою інфраструктурою .
• Інвестувати в публічні, відкриті альтернативи комерційним ШІ-інструментам, аби доступ до них не залежав від гаманця установи .

Індустрія мусить:

• Відмовитися від практики використання опублікованих досліджень для навчання моделей без згоди авторів та забезпечити реальний механізм відмови (opt-out) .
• Дотримуватися тих самих стандартів прозорості й цитування, яких академічна спільнота вимагає від себе, щоразу, коли корпоративні лабораторії публікуються разом з університетськими партнерами .

Глобальна сутичка: доказ, влада і суспільна довіра

Лейденська декларація — це не тільки про математику. Її автори розглядають цю боротьбу як лакмусовий папірець для наукової політики всюди. Вони застерігають, що ті самі системи ШІ, які породжують сумнівні докази, можуть бути використані для війни та масового стеження, і закликають математиків давати етичну оцінку своїй роботі й навіть виходити зі шкідливих проєктів .

Глибше застереження має гносеологічний характер: коли комерційні дедлайни підміняють наукове рецензування, а галас корпорацій заглушує обережні голоси фахівців, суспільне розуміння наукової істини спотворюється . Математика, яка протягом століть пишалась чіткими та вічними стандартами, тепер опинилася на передовій цієї битви за правду.

Чи не кожна рекомендація в декларації обертається навколо єдиного принципу: прозорості. Не знаючи, де, коли і як було застосовано ШІ, наукова спільнота не зможе ні перевірити результати, ні віддати належне авторам, ні захистити власні стандарти. Маючи понад 130 підписантів уже на старті та інституційну підтримку від Міжнародного математичного союзу (International Mathematical Union), Лейденська декларація стала більшим, ніж просто заявою: це робочий проєкт норм, яких, на переконання математиків, вимагає нова ера ШІ .