AI-topper utfordret Amodeis risikoadvarsler – signerte Trumps frivillige avtale

Møtet i Det hvite hus 29. september samlet en privat uenighet om risikoen ved kunstig intelligens og en offentlig framvisning av enighet. Ifølge medieomtale utfordret teknologiledere Anthropic-sjef Dario Amodei på advarslene hans. Etter møtet sa han at teknologien innebærer «svært reelle risikoer», men at hvordan de bør håndteres, fortsatt var til diskusjon. Lederne og president Donald Trump la også fram en frivillig sikkerhetserklæring. Den felles erklæringen løste ikke uenigheten om myndighetenes rolle. 2

Hva skjedde i møtet?

Omtalen som ligger til grunn for saken, beskriver en konfrontasjon i en mindre gruppe der ledere utfordret Amodeis advarsler. Kildene gir ikke nok detaljer til å gjengi ordskiftet eller fastslå nøyaktig hvem som sa hva. De bekrefter heller ikke at mulige tap av arbeidsplasser var tema i akkurat denne konfrontasjonen.

Den større politiske uenigheten var tydeligere. Amodei har tatt til orde for regler som krever uavhengig kontroll av de mest avanserte AI-systemene. Trump har på sin side argumentert for at selskapene bør føre tilsyn med seg selv, framfor å bli møtt med nye føderale begrensninger. 4 Etter møtet fastholdt Amodei at risikoen er reell, men sa at det fortsatt diskuteres hvordan den skal håndteres. 2

Hva lover selskapene i avtalen?

Det hvite hus’ avtale om superintelligens skisserer selskapsforpliktelser knyttet til interne kontroller og sikkerhetsgjennomganger. Den ber også selskapene samarbeide med uavhengige revisorer for å undersøke om AI-systemene oppfører seg slik utviklerne har tenkt. Avtalen omfatter dessuten tiltak mot uautorisert hacking eller tilgang. 315

Trump kalte avtalen «moralsk bindende» og sa at selskapene skulle føre tilsyn med seg selv. Medieomtalen beskriver likevel forpliktelsene som frivillige og ikke juridisk håndhevbare. I praksis er dette altså en bransjeavtale, ikke en ny føderal lov eller forskrift. 411

Skillet er viktig: Avtalen nevner tiltak for tilsyn, men avgjør ikke om eksterne regler skal kreve dem, hvordan de eventuelt skal håndheves, eller om forpliktelsene senere blir lovfestet. Ifølge omtalen åpner avtalen for at tiltak kan bli gjort til lov over tid.

Spørsmålene om tilsyn står fortsatt åpne

Trump luftet muligheten for en komité på ti personer som skulle føre tilsyn med bransjen. Kildene beskriver dette som et forslag som ble vurdert, ikke som et organ som faktisk er opprettet. 210

Kildene dokumenterer heller ikke påstanden om at en separat selvregulerende bransjeordning ble skrinlagt, eller hvordan en slik plan i så fall skulle ha hengt sammen med avtalen. Omtalen knytter Anthropics deltakelse til møtet og den bredere debatten om regulering, men fastslår ikke at selskapet signerte for å reparere forholdet til administrasjonen før en børsnotering – eller at en børsnotering var nært forestående. 45

En offentlig enighet – ikke en avklart debatt

Møtet resulterte i felles formuleringer om sikkerhetstiltak, men ikke enighet om hvilken rolle myndighetene bør ha. Amodei ønsker regulering som krever uavhengige revisjoner, mens Trump foretrekker frivillig tilsyn fra selskapene selv. Det sentrale spørsmålet står dermed igjen: Hvem skal fastsette og håndheve kravene til AI-sikkerhet? 4

Avtalen bør derfor forstås som et frivillig rammeverk for hva selskapene sier de vil gjøre – ikke som bevis på at lederne er enige om hvor store risikoene er, eller at selvregulering er tilstrekkelig.