Leiden-deklarationen: Över 150 matematiker drar en skarp gräns mot AI:s mörka baksida

De fem hoten som förvandlar matematiken

Deklarationen identifierar fem separata men sammanflätade faror, som var och en slår mot ett grundfundament i matematisk praktik.

1. Opålitliga och icke verifierbara bevis
Matematiken vilar på bevis som kan kontrolleras oberoende och förstås på djupet. AI-system producerar däremot argument som ser trovärdiga ut men kan innehålla nästan osynliga fel – falska bevisföringar som människor har mycket svårt att upptäcka . Problemet är inte isolerat till informell textgenerering; det uppstår även i formella bevis-system när den underliggande logiken hålls dold .

2. Kollapsad upphovsrätt och omfattande immaterialrättsintrång
AI-modeller tränas på publicerade mänskliga verk utan medgivande och misslyckas ofta med att ange källor. Följden blir ett systematiskt sammanbrott för erkännande av intellektuellt arbete, vilket gör det omöjligt att spåra idéers ursprung eller belöna ursprungliga tänkare. Deklarationen insisterar på att författare aktivt måste söka efter föregångare och, när full källhänvisning inte är möjlig, uttryckligen redovisa den begränsningen .

3. Ett tudelat system av beroende och ojämlikhet
I takt med att banbrytande forskning blir beroende av dyra proprietära modeller och enorm beräkningskraft står matematiken inför en framtid där endast välfinansierade labb kan konkurrera. Det skapar en strukturell ojämlikhet som undergräver fältets traditionellt öppna och meritokratiska karaktär .

4. Överdriven hajp som vilseleder politiska beslut
Teknikföretag, drivna av starka kommersiella incitament, överdriver sina verktygs matematiska förmågor . De tillkännager resultat enligt marknadens tidtabeller via pressmeddelanden, inte genom vetenskaplig granskning, och använder prestanda på matematik-benchmarks som marknadsföring för generell intelligens – ett påstående deklarationen blankt avvisar . Författarna uppmanar regeringar att söka expertutvärdering, inte PR, när forskningspolitik utformas .

5. Förlust av forskningens autonomi
När kommersiella intressen och teknisk genomförbarhet styr vad som ska studeras, riskerar matematiken att förlora kontrollen över sin egen dagordning. Forskningsprioriteringar förskjuts mot kortsiktig kommersiell avkastning snarare än djuplodande, nyfikenhetsdrivet sökande, vilket hotar disciplinens långsiktiga hälsa .

Vad deklarationen kräver

Istället för att enbart diagnostisera problemen föreskriver Leiden-deklarationen specifika, handlingsinriktade normer för fyra nyckelgrupper .

Individuella forskare måste:

• Redovisa alla AI-verktyg, instruktioner och metoder som använts i deras arbete .
• Behandla AI enbart som ett verktyg – aldrig som medförfattare. Människor bär hela ansvaret för korrekthet, källhänvisning och etisk användning .
• Hålla sig informerade om ny teknik och delta i offentlig debatt om dess konsekvenser .

Institutioner, tidskrifter och finansiärer måste:

• Ta fram bindande riktlinjer för AI-författarskap, transparens, sakkunniggranskning och immateriella rättigheter .
• Bygga juridiska och etiska stödstrukturer för att hjälpa forskare att förhandla med mäktiga teknikföretag .
• Väva in deklarationens kärnvärderingar i utvärderingskriterier och finansieringsbeslut, snarare än att premiera enbart beräkningshastighet .

Regeringar måste:

• Sluta ta företagens kapacitetspåståenden för givna och istället rådfråga oberoende expertgrupper .
• Reglera AI-industrin för att förhindra monopolistisk kontroll över forskningsinfrastrukturen .
• Investera i offentligt finansierade, öppna alternativ till kommersiella AI-verktyg så att tillgång inte blir beroende av institutionell rikedom .

Industrin måste:

• Överge metoden att använda forskningspublikationer som träningsdata utan medgivande och tillåta verkliga opt-out-mekanismer för författare .
• Uppfylla samma krav på transparens och källhänvisning som akademin ställer på sig själv när industrilabb publicerar tillsammans med akademiska partners .

Den större striden: bevis, makt och allmänhetens förtroende

Leiden-deklarationen handlar inte bara om matematik. Dess författare ser konflikten som ett lackmustest för vetenskapspolitiken överallt. De hävdar att samma AI-system som producerar opålitliga bevis även kan användas som vapen i krigföring och massövervakning, och uppmanar matematiker att etiskt utvärdera sin forskning och till och med dra sig ur skadliga projekt .

Den djupare varningen är epistemologisk: när kommersiella tidtabeller ersätter vetenskaplig granskning, och när företagens hajp dränker experternas försiktighet, snedvrids allmänhetens förståelse av vad som är vetenskaplig sanning . Matematiken – ett fält som länge stoltserat med klara, tidlösa normer – står nu på frontlinjen i denna större samhällsstrid.

Nästan varje rekommendation i deklarationen kretsar kring en enda princip: transparens. Utan att veta när och hur AI använts kan forskarsamhället inte verifiera resultat, tilldela erkännande eller försvara sina egna standarder. Med över 130 undertecknare vid lanseringen och institutionellt stöd från organ som Internationella matematiska unionen (IMU) har Leiden-deklarationen redan blivit mer än ett uttalande: det är ett fungerande utkast till de normer som matematiker menar att AI-eran kräver .