Arthur Mensch utfordrer KI-alarmen: Sikkerhet eller markedsmakt?

«KI er programvare. Den kan kontrolleres», sa Arthur Mensch, toppsjef i franske Mistral AI, i et intervju med Le Monde 24. september. Han mener amerikanske KI-giganter utnytter frykten for teknologien til egen fordel. Det er en viktig innvending, men ikke et bevis for at sikkerhetsadvarslene er grunnløse: En risiko kan være reell selv om selskapet som advarer om den, også har kommersielle interesser.29

Hvem får sette farten?

Kjernen i Menschs kritikk er hvem som skal definere ansvarlig KI-utvikling. Dersom de største selskapene får prege sikkerhetsreglene med krav de selv lettest kan oppfylle, kan mindre konkurrenter komme dårligere ut. Det er en bekymring for konkurransen, ikke et bevis for at farene er oppdiktet.29

Mistral hevder heller ikke at KI kan tas i bruk uten risiko. Selskapet har advart om at modeller kan bli mektige aktører når de får handle på egen hånd og tilgang til verktøy, og at trygg bruk krever varsomhet. Menschs utsagn om kontroll bør derfor leses som et argument for å håndtere risiko – ikke som en garanti for at alle fremtidige systemer vil kunne kontrolleres.72

Advarslene er alvorlige, men ikke sikre prognoser

Tidligere Anthropic-forsker Jacob Coxon, som også har jobbet i OpenAI, advarte tidlig i september om at KI «kan drepe oss alle innen utgangen av tiåret». Anthropic-sjef Dario Amodei ba deretter om en frivillig nedbremsing i utviklingen av de mest avanserte modellene. Ifølge Le Monde fikk oppfordringen hans 12. september støtte fra ledende amerikanske konkurrenter.18

Coxons formulering beskriver en mulighet, ikke en påvist tidsfrist. At flere støtter en nedbremsing, viser heller ikke i seg selv at den vil redusere risiko mer effektivt enn målrettede sikkerhetstiltak.18

Uenigheten går dessuten på tvers av Atlanteren: Geoffrey Hinton har etterlyst raskere sikkerhetstiltak, mens Andrew Ng har utfordret grunnlaget for dommedagspregede advarsler og advart mot generelle oppfordringer om å sette utviklingen på pause. Det gjør spørsmålet mer konkret: Hvilke farer er dokumentert, og hvilke tiltak vil faktisk møte dem?

Et søksmål er ikke en dom

Abonnenter på KI-tjenester har saksøkt Anthropic, OpenAI, SpaceXAI og Google. De hevder at selskapene ble enige om å begrense konkurrerende utvikling etter oppfordringen om nedbremsing 12. september. Det er en påstand i et søksmål, ikke en rettslig konklusjon om en ulovlig avtale. At toppledere uttrykker lignende bekymringer, er ikke alene bevis for at de har samordnet seg.

Menschs kritikk og søksmålet reiser beslektede, men ulike spørsmål. Det ene er om sikkerhetsargumenter kan favorisere etablerte selskaper. Det andre er om konkurrenter faktisk avtalte å bremse utviklingen.

Den beste prøven er derfor todelt: Undersøk dokumentasjonen bak hvert foreslåtte sikkerhetstiltak, og vurder om kostnadene rammer nye konkurrenter uforholdsmessig hardt. Den samme kritiske vurderingen må gjelde Mistrals argument for videre utvikling. Kommersielle interesser er en grunn til å etterprøve et argument – ikke til å avvise det automatisk.789