Leidenská deklarace: Jak se více než 150 matematiků staví proti nekontrolované umělé inteligenci

Pět hrozeb, které mění podobu matematiky

Deklarace identifikuje pět odlišných, ale vzájemně propojených nebezpečí, z nichž každé útočí na základní hodnoty matematické praxe.

1. Nespolehlivé a neověřitelné důkazy
Matematika je postavena na důkazech, které lze nezávisle ověřit a hluboce pochopit. AI systémy však produkují argumenty, jež vypadají věrohodně, ale mohou obsahovat téměř neviditelné chyby – falešné důkazy, které lidé jen stěží odhalí . Tento problém se netýká jen generování běžného textu; objevuje se i ve formálních důkazových systémech, když je základní logika nejasná .

2. Rozpad autorství a nekontrolovatelné porušování autorských práv
Modely AI trénují na publikované lidské práci bez souhlasu a často necitují zdroje. Výsledkem je systémový rozpad uznání, který znemožňuje vysledovat intelektuální linii nebo odměnit původní myslitele. Deklarace trvá na tom, že autoři musí aktivně vyhledávat předchůdce a vždy, když úplné uvedení zdrojů není možné, na toto omezení výslovně upozornit .

3. Dvourychlostní systém závislosti a nerovnosti
Jak se špičkový výzkum stává závislým na drahých proprietárních modelech a výpočetní kapacitě, matematika čelí budoucnosti, kde mohou soutěžit jen dobře financované laboratoře. To vytváří strukturální nerovnost, která podkopává tradičně otevřený a meritokratický charakter oboru .

4. Přehnaný humbuk, který klame politiky
Technologické společnosti, hnány silnými komerčními pobídkami, zveličují matematické schopnosti svých nástrojů . Výsledky oznamují podle tržních harmonogramů prostřednictvím tiskových zpráv, nikoli skrze recenzovanou vědu, a používají výkon v matematických benchmarcích jako marketingovou zástupku za obecnou inteligenci – což je tvrzení, které deklarace rezolutně odmítá . Autoři naléhavě žádají vlády, aby při tvorbě vědní politiky vyhledávaly odborné hodnocení, nikoli PR .

5. Ztráta autonomie výzkumu
Když korporátní zájmy a technická proveditelnost diktují, co se studuje, matematika riskuje ztrátu kontroly nad svým vlastním programem. Priority výzkumu se přesouvají ke krátkodobým komerčním výnosům namísto hlubokého, zvídavostí řízeného bádání, což ohrožuje dlouhodobé zdraví disciplíny .

Co deklarace požaduje

Leidenská deklarace problémy nejen diagnostikuje, ale předepisuje konkrétní, proveditelné normy pro čtyři klíčové skupiny .

Jednotliví výzkumníci musí:

• Zveřejňovat všechny nástroje AI, prompty a metody použité při jejich práci .
• Zacházet s AI výhradně jako s nástrojem – nikdy ne jako se spoluautorem. Lidé nesou plnou odpovědnost za správnost, uvedení zdrojů a etické použití .
• Zůstat informováni o nových technologiích a zapojovat se do veřejné debaty o jejich důsledcích .

Instituce, časopisy a poskytovatelé grantů musí:

• Vytvořit závazné politiky týkající se autorství AI, transparentnosti, recenzního řízení a duševního vlastnictví .
• Vybudovat právní a etické podpůrné struktury, které výzkumníkům pomohou vyjednávat se silnými technologickými společnostmi .
• Včlenit základní hodnoty deklarace do hodnotících kritérií a rozhodování o grantech, namísto odměňování pouhé výpočetní rychlosti .

Vlády musí:

• Přestat brát firemní tvrzení o schopnostech za bernou minci a místo toho konzultovat nezávislé expertní skupiny .
• Regulovat průmysl AI, aby se zabránilo monopolní kontrole nad výzkumnou infrastrukturou .
• Investovat do veřejně financovaných, otevřených alternativ ke komerčním nástrojům AI tak, aby přístup nezávisel na bohatství institucí .

Průmysl musí:

• Upustit od praxe využívání výzkumných publikací jako trénovacích dat bez souhlasu a umožnit autorům skutečné mechanismy odhlášení (opt-out) .
• Splňovat stejné standardy transparentnosti a uvádění zdrojů, jaké akademická sféra vyžaduje sama od sebe, kdykoli průmyslové laboratoře publikují společně s akademickými partnery .

Širší boj: Důkaz, moc a důvěra veřejnosti

Leidenská deklarace se netýká jen matematiky. Její autoři rámují tento zápas jako předzvěst pro vědní politiku všude na světě. Argumentují, že stejné AI systémy, které produkují nespolehlivé důkazy, mohou být také zneužity pro válčení a masový dohled, a naléhají na matematiky, aby eticky hodnotili svou práci a dokonce odstoupili od škodlivých projektů .

Hlubší varování je epistemologické: když komerční harmonogramy nahrazují recenzní řízení a když firemní humbuk přehluší odbornou opatrnost, veřejné chápání toho, co tvoří vědeckou pravdu, se deformuje . Matematika – obor, který byl dlouho hrdý na jasné, nadčasové standardy – je nyní v první linii tohoto většího boje.

Téměř každé doporučení v deklaraci se točí kolem jediného principu: transparentnost. Bez znalosti toho, kdy a jak byla AI použita, nemůže vědecká komunita ověřovat výsledky, přidělovat zásluhy ani bránit své vlastní standardy. S více než 130 signatáři při svém zveřejnění a institucionální podporou orgánů, jako je Mezinárodní matematická unie, se Leidenská deklarace již stala více než jen prohlášením: je to pracovní návrh norem, o nichž jsou matematici přesvědčeni, že je éra AI vyžaduje .