Miksi yli 150 maailman huippumatemaatikkoa piirtävät nyt rajan tekoälyn eteen?

Viisi uhkaa, jotka muokkaavat matematiikan tulevaisuutta

Julistuksessa tunnistetaan viisi erillistä mutta toisiinsa kietoutuvaa vaaraa, joista jokainen iskee matematiikan perusarvoon.

1. Epäluotettavat ja tarkistamattomat todistukset
Matematiikka rakentuu todistuksille, jotka voidaan itsenäisesti varmentaa ja syvällisesti ymmärtää. Tekoälyjärjestelmät tuottavat kuitenkin perusteluja, jotka näyttävät uskottavilta, mutta saattavat sisältää lähes näkymättömiä virheitä – vääriä todistuksia, joita ihmisten on vaikea havaita . Ongelma ei rajoitu vain vapaamuotoiseen tekstintuotantoon, vaan sitä esiintyy myös muodollisissa todistusjärjestelmissä, jos taustalla oleva logiikka on läpinäkymätöntä .

2. Tekijyyden romahdus ja villiintyneet tekijänoikeusloukkaukset
Tekoälymallit koulutetaan julkaistulla ihmistyöllä ilman lupaa, eivätkä ne usein mainitse lähteitään. Tuloksena on järjestelmällinen tunnustuksen hajoaminen, joka tekee mahdottomaksi jäljittää ajatusten alkuperää tai palkita omaperäisiä ajattelijoita. Julistus vaatii, että tekijöiden on aktiivisesti etsittävä työnsä edeltäjiä ja, aina kun täydellinen alkuperän osoittaminen ei ole mahdollista, tuotava tämä rajoitus selkeästi esiin .

3. Kahden kerroksen väki – riippuvuus ja eriarvoisuus
Kun huippututkimus kytkeytyy kalliisiin kaupallisiin tekoälymalleihin ja laskentatehoon, matematiikka on matkalla kohti tulevaisuutta, jossa vain hyvin rahoitetut laboratoriot voivat kilpailla. Tämä luo rakenteellista eriarvoisuutta, joka murentaa alan perinteisesti avointa ja ansioihin perustuvaa luonnetta .

4. Liioiteltu hypetys, joka harhauttaa päätöksentekoa
Teknologiayhtiöillä on vahvat kaupalliset kannustimet liioitella työkalujensa matemaattisia kykyjä . Ne julkistavat tuloksia markkinalähtöisillä aikatauluilla lehdistötiedottein, eivät vertaisarvioitua tiedettä noudattaen, ja käyttävät suoriutumista matematiikan testitehtävissä markkinointikikkana, jolla ne väittävät yleistä älykkyyttä – väite, jonka julistus tyrmää täysin . Kirjoittajat kehottavat hallituksia turvautumaan asiantuntija-arvioihin, eivät pr:ään, tiedepolitiikkaa laatiessaan .

5. Tutkimuksen autonomian menetys
Kun yritysten edut ja tekninen toteutettavuus sanelevat, mitä tutkitaan, matematiikka uhkaa menettää otteen omasta agendastaan. Tutkimuksen painopisteet siirtyvät kohti lyhyen aikavälin kaupallisia voittoja syvällisen, uteliaisuusvetoisen tutkimuksen sijaan, mikä uhkaa tieteenalan pitkäaikaista terveyttä .

Mitä julistus vaatii?

Pelkän ongelmien luettelemisen sijaan Leiden-julistus määrää täsmällisiä, toteutettavissa olevia pelisääntöjä neljälle avainryhmälle .

Yksittäisten tutkijoiden on:

• Ilmoitettava kaikki työssään käytetyt tekoälytyökalut, kehotteet ja menetelmät .
• Kohdeltava tekoälyä yksinomaan työkaluna – ei koskaan kanssakirjoittajana. Ihminen kantaa täyden vastuun oikeellisuudesta, tekijyydestä ja eettisyydestä .
• Pysyttävä ajan tasalla uusista teknologioista ja osallistuttava julkiseen keskusteluun niiden seurauksista .

Instituutioiden, lehtien ja rahoittajien on:

• Laadittava sitovat toimintatavat tekoälyn tekijyyteen, läpinäkyvyyteen, vertaisarviointiin ja immateriaalioikeuksiin liittyen .
• Rakennettava oikeudellisia ja eettisiä tukirakenteita, joiden avulla tutkijat voivat neuvotella voimakkaiden teknologiayhtiöiden kanssa .
• Kudottava julistuksen keskeiset arvot osaksi arviointikriteereitä ja rahoituspäätöksiä sen sijaan, että palkittaisiin pelkkää laskentanopeutta .

Hallitusten on:

• Lakattava hyväksymästä yritysten suorituskykyväitteitä sellaisinaan ja sen sijaan kuultava riippumattomia asiantuntijaryhmiä .
• Säädeltävä tekoälyalaa estääkseen tutkimusinfrastruktuurin monopolistisen hallinnan .
• Sijoitettava julkisesti rahoitettuihin, avoimiin vaihtoehtoihin kaupallisille tekoälytyökaluille, jotta pääsy niihin ei riipu oppilaitoksen varallisuudesta .

Teollisuuden on:

• Hylättävä käytäntö, jossa tutkimusjulkaisuja käytetään koulutusdatana ilman suostumusta, ja sallittava todelliset opt-out-mahdollisuudet kirjoittajille .
• Noudatettava samoja läpinäkyvyyden ja tekijyyden standardeja, joita akateeminen maailma vaatii itseltään, aina kun teollisuuslaboratoriot julkaisevat yhdessä akateemisten kumppaneiden kanssa .

Suurempi taistelu: todisteet, valta ja julkinen luottamus

Leiden-julistus ei koske vain matematiikkaa. Sen kirjoittajat kehystävät kamppailun ennakkotapaukseksi tiedepolitiikalle kaikkialla. He esittävät, että samoja tekoälyjärjestelmiä, jotka tuottavat epäluotettavia todistuksia, voidaan käyttää myös sodankäyntiin ja massavalvontaan, ja kehottavat matemaatikkoja arvioimaan työnsä eettisesti ja jopa vetäytymään haitallisista hankkeista .

Syvempi varoitus on tiedonfilosofinen: kun kaupalliset aikataulut korvaavat vertaisarvioinnin ja yritysten hypetys hukuttaa alleen asiantuntijoiden varovaisuuden, julkinen käsitys tieteellisestä totuudesta vääristyy . Matematiikka – ala, joka on pitkään ylpeillyt selkeillä, ajattomilla standardeilla – on nyt tämän suuremman taistelun etulinjassa.

Lähes jokainen julistuksen suositus kiteytyy yhden periaatteen ympärille: läpinäkyvyys. Ilman tietoa siitä, milloin ja miten tekoälyä on käytetty, tiedeyhteisö ei voi varmentaa tuloksia, osoittaa ansioita tai puolustaa omia standardejaan. Julkaisuhetkellä yli 130 allekirjoittajaa keränneellä ja Kansainvälisen matemaattisen unionin (International Mathematical Union) kaltaisten instituutioiden tuella Leiden-julistuksesta on tullut jo enemmän kuin pelkkä kannanotto: se on työluonnos normeista, joita matemaatikot uskovat tekoälyn aikakauden vaativan .