Deklaracja z Lejdy: Matematycy stawiają granicę niekontrolowanej sztucznej inteligencji

Pięć plag, które przetaczają się przez matematykę

Deklaracja identyfikuje pięć odrębnych, ale wzajemnie powiązanych niebezpieczeństw, z których każde uderza w fundamenty praktyki matematycznej.

1. Niewiarygodne i nieweryfikowalne dowody
Matematyka opiera się na dowodach, które można niezależnie zweryfikować i dogłębnie zrozumieć. Systemy AI generują jednak argumenty, które tylko wyglądają na poprawne, ale mogą zawierać niemal niewidoczne błędy – fałszywe dowody, które ludziom niezwykle trudno jest wychwycić . Problem nie ogranicza się do nieformalnego generowania tekstu; pojawia się również w formalnych systemach dowodzenia, gdy podstawowa logika pozostaje nieprzejrzysta .

2. Upadek atrybucji i notoryczne łamanie praw autorskich
Modele AI są trenowane na publikowanych pracach naukowych bez zgody autorów i często nie podają źródeł. Rezultatem jest systemowy rozkład zasad uznawania autorstwa, co uniemożliwia śledzenie intelektualnego rodowodu i nagradzanie oryginalnych myślicieli. Deklaracja stanowczo podkreśla, że autorzy muszą aktywnie szukać wcześniejszych prac i, ilekroć pełna atrybucja nie jest możliwa, wyraźnie stwierdzać to ograniczenie .

3. Dwupoziomowy system zależności i nierówności
W miarę jak najnowocześniejsze badania stają się zależne od drogich, zamkniętych modeli i mocy obliczeniowej, matematyka mierzy się z przyszłością, w której konkurować będą mogły jedynie dobrze finansowane laboratoria. Tworzy to strukturalną nierówność, która podważa tradycyjnie otwarty i merytokratyczny charakter tej dziedziny .

4. Przesadny szum medialny wprowadzający w błąd decydentów
Firmy technologiczne, kierując się silnymi bodźcami komercyjnymi, zawyżają możliwości matematyczne swoich narzędzi . Ogłaszają wyniki w rytmie rynkowych premier, za pośrednictwem informacji prasowych, a nie recenzowanych artykułów naukowych, i wykorzystują wyniki w testach matematycznych jako marketingowy wskaźnik ogólnej inteligencji – twierdzenie, które deklaracja stanowczo odrzuca . Autorzy apelują do rządów, by przy tworzeniu polityki naukowej opierały się na ekspertyzach, a nie na PR-owych materiałach .

5. Utrata autonomii badawczej
Gdy korporacyjne interesy i techniczna wykonalność dyktują, co jest badane, matematyka ryzykuje utratę kontroli nad własną agendą. Priorytety badawcze przesuwają się w stronę krótkoterminowych zysków komercyjnych, a nie głębokich dociekań motywowanych ciekawością, co zagraża długoterminowej kondycji dyscypliny .

Czego domaga się środowisko

Deklaracja z Lejdy nie tylko diagnozuje problemy, ale także wyznacza konkretne, wykonalne normy dla czterech kluczowych grup .

Indywidualni badacze muszą:

• Ujawniać wszystkie wykorzystane narzędzia AI, polecenia i metody .
• Traktować AI wyłącznie jako narzędzie – nigdy jako współautora. Pełną odpowiedzialność za poprawność, atrybucję i etyczne wykorzystanie ponoszą ludzie .
• Być na bieżąco z nowymi technologiami i angażować się w debatę publiczną na temat ich konsekwencji .

Instytucje, czasopisma i grantodawcy muszą:

• Opracować wiążące zasady dotyczące autorstwa AI, przejrzystości, recenzji i własności intelektualnej .
• Stworzyć struktury wsparcia prawnego i etycznego, aby pomóc badaczom w negocjacjach z potężnymi firmami technologicznymi .
• Wpisać podstawowe wartości deklaracji w kryteria oceny i decyzje o finansowaniu, zamiast nagradzać samą szybkość obliczeniową .

Rządy muszą:

• Przestać przyjmować korporacyjne deklaracje o możliwościach za dobrą monetę i zamiast tego konsultować się z niezależnymi grupami ekspertów .
• Regulować branżę AI, aby zapobiec monopolistycznej kontroli nad infrastrukturą badawczą .
• Inwestować w finansowane ze środków publicznych, otwarte alternatywy dla komercyjnych narzędzi AI, tak aby dostęp do nich nie zależał od zamożności instytucji .

Przemysł musi:

• Porzucić praktykę wykorzystywania publikacji naukowych jako danych treningowych bez zgody i umożliwić autorom realny mechanizm rezygnacji (opt-out) .
• Gdy laboratoria przemysłowe publikują wspólnie z partnerami akademickimi, muszą spełniać te same standardy przejrzystości i atrybucji, których wymaga świat akademicki .

Większa walka: dowód, władza i zaufanie publiczne

Deklaracja z Lejdy nie dotyczy wyłącznie matematyki. Jej autorzy przedstawiają tę walkę jako zapowiedź tego, co czeka całą politykę naukową. Twierdzą, że te same systemy AI, które produkują niewiarygodne dowody, mogą zostać wykorzystane do działań wojennych i masowej inwigilacji, i apelują do matematyków o etyczną ocenę własnej pracy, a nawet wycofanie się ze szkodliwych projektów .

Głębsze ostrzeżenie ma charakter epistemologiczny: kiedy komercyjne harmonogramy zastępują recenzje naukowe, a korporacyjny szum medialny zagłusza ekspercką ostrożność, publiczne rozumienie tego, czym jest prawda naukowa, ulega wypaczeniu . Matematyka – dziedzina, która od dawna szczyci się jasnymi, ponadczasowymi standardami – znalazła się właśnie na pierwszej linii frontu tej większej batalii.

Niemal każde zalecenie zawarte w deklaracji krąży wokół jednej zasady: przejrzystości. Bez wiedzy o tym, kiedy i jak użyto AI, społeczność naukowa nie może weryfikować wyników, przypisywać zasług ani bronić własnych standardów. Mając na starcie ponad 130 sygnatariuszy i instytucjonalne wsparcie organów takich jak Międzynarodowa Unia Matematyczna, Deklaracja z Lejdy stała się już czymś więcej niż tylko oświadczeniem: to roboczy projekt norm, których – zdaniem matematyków – wymaga era sztucznej inteligencji .