Arthur Mensch udfordrer AI-giganternes advarsler

»AI er software. Det kan kontrolleres,« sagde Arthur Mensch, direktør for det franske AI-selskab Mistral AI, i et interview med Le Monde den 24. september. Han beskyldte samtidig amerikanske AI-giganter for at udnytte frygten for teknologien. Hans kritik rejser et vigtigt spørgsmål, men afgør ikke sikkerhedsdebatten: En advarsel kan være berettiget og samtidig gavne virksomheden bag den.29

Hvem får lov at sætte tempoet?

Mensch udfordrer især hvem der skal definere ansvarlig AI-udvikling. Hvis de største udviklere præger sikkerhedskravene, kan de også få lettere ved at opfylde dem end mindre konkurrenter. Det er en reel konkurrencepolitisk bekymring – ikke et bevis på, at farerne er opdigtede.29

Mistral afviser da heller ikke risikoen ved AI. Selskabet har selv advaret om, at modeller kan blive magtfulde aktører, når de får handlefrihed og adgang til værktøjer, og at sikker anvendelse kræver omtanke. Menschs udsagn bør derfor læses som et argument for, at risiko kan håndteres – ikke som dokumentation for, at alle fremtidige systemer kan kontrolleres.72

Alvorlige advarsler er ikke sikre prognoser

Jacob Coxon, der tidligere arbejdede hos både Anthropic og OpenAI, advarede i begyndelsen af september om, at AI »kunne dræbe os alle inden årtiets udgang«. Senere opfordrede Anthropics direktør, Dario Amodei, til en frivillig opbremsning i udviklingen af de mest avancerede modeller. Ifølge Le Monde fik hans appel den 12. september støtte fra førende amerikanske konkurrenter.18

Advarslerne er alvorlige, men Coxons formulering beskriver en mulighed, ikke en påvist tidsfrist. Og støtte til en opbremsning viser ikke i sig selv, at den vil mindske risikoen mere effektivt end målrettede sikkerhedsforanstaltninger.18

Uenigheden følger heller ikke en enkel skillelinje mellem Europa og USA. Geoffrey Hinton har efterlyst hurtigere sikkerhedstiltag, mens Andrew Ng har udfordret grundlaget for dommedagsprægede advarsler og afvist generelle opfordringer til at sætte udviklingen på pause. Det skærper det praktiske spørgsmål: Hvilke risici kan påvises, og hvilke tiltag vil faktisk imødegå dem?

En retssag er ikke en afgørelse

Abonnenter på AI-tjenester har anlagt sag med påstand om, at Anthropic, OpenAI, SpaceXAI og Google aftalte at bremse konkurrerende udvikling efter appellen den 12. september. Det er en anklage – ikke en juridisk fastslåelse af, at selskaberne indgik en ulovlig aftale. At flere direktører udtrykker samme bekymring, er ikke i sig selv bevis for koordinering.

Menschs kritik og retssagen handler dermed om beslægtede, men forskellige spørgsmål: Kan sikkerhedsargumenter styrke de etablerede selskaber? Og aftalte konkurrenterne faktisk at sænke tempoet? Ingen af delene afgøres ved at kalde alle advarsler markedsføring eller enhver opfordring til forsigtighed for et kartel.

Den bedste prøve er at kræve dokumentation for hvert foreslået sikkerhedstiltag og samtidig undersøge, om dets omkostninger rammer nye konkurrenter uforholdsmæssigt hårdt. Den målestok gælder både Mistrals argument for fortsat udvikling og de store selskabers ønsker om at sætte farten ned.789