AI-chefer udfordrede Amodeis risikoadvarsler – men skrev under på Trumps frivillige aftale

Mødet i Det Hvide Hus den 29. september samlede to ting, der ikke helt gik hånd i hånd: En privat uenighed om AI-risici og en offentlig opvisning i enighed om sikkerhed. Medier rapporterede, at teknologiledere satte spørgsmålstegn ved Anthropic-chefen Dario Amodeis advarsler. Efter mødet sagde Amodei, at AI indebærer «meget reelle risici», men at det stadig blev diskuteret, hvordan de skal håndteres. Samtidig præsenterede lederne og præsident Donald Trump en frivillig sikkerhedsaftale. Den fælles erklæring løste ikke uenigheden om, hvorvidt myndighederne bør regulere branchen. 2

Hvad skete der på mødet?

En rapport, som omtales i den tilgængelige dækning, beskriver en mindre diskussion, hvor ledere udfordrede Amodei på hans advarsler. Kildematerialet giver ikke nok detaljer til at genskabe ordvekslingen eller fastslå præcist, hvem der sagde hvad. Det bekræfter heller ikke, at mulige tab af arbejdspladser indgik i netop den konfrontation.

Den bredere politiske uenighed står tydeligere frem. Amodei har argumenteret for regler, der kræver uafhængige revisioner af avancerede AI-systemer. Trump har derimod talt for, at virksomhederne fører tilsyn med sig selv frem for at blive mødt med nye føderale begrænsninger. 4 Efter mødet fastholdt Amodei, at risiciene er reelle, mens måden at håndtere dem på fortsat var til diskussion. 2

Hvad lover virksomhederne?

Det Hvide Hus’ aftale om superintelligens opstiller virksomhedsløfter om interne kontroller og sikkerhedsvurderinger. Den lægger også op til samarbejde med uafhængige revisorer, som skal undersøge, om AI-systemerne opfører sig, som udviklerne har tænkt sig. Aftalen omfatter desuden sikkerhedsforanstaltninger mod uautoriseret hacking eller adgang. 315

Trump kaldte aftalen «moralsk bindende» og sagde, at virksomhederne ville føre tilsyn med sig selv. Nyhedsmedier beskrev den imidlertid som frivillig og uden juridisk håndhævelse. I praksis er der tale om et brancheløfte – ikke en ny føderal regulering. 411

Forskellen er vigtig: Aftalen nævner tiltag for tilsyn, men afgør ikke, om eksterne regler skal kræve dem, hvordan de i så fald skal håndhæves, eller om løfterne senere bliver til lov. Ifølge rapporteringen holder aftalen døren åben for, at nogle af tiltagene med tiden kan blive skrevet ind i lovgivningen.

Spørgsmålene om tilsyn står stadig åbne

Trump luftede idéen om et udvalg på ti personer, der skulle føre tilsyn med branchen. Den tilgængelige dækning beskriver det som et forslag under overvejelse – ikke som et udvalg, der allerede er blevet oprettet. 210

Kilderne underbygger heller ikke påstanden om, at en separat branchebaseret selvregulator blev opgivet, eller forklarer, hvordan en sådan plan i givet fald skulle have hængt sammen med aftalen. Og selv om medierne forbinder Anthropics deltagelse med mødet og den bredere debat om regulering, fastslår de ikke, at virksomheden underskrev for at forbedre forholdet til regeringen forud for en børsnotering – eller at en børsnotering var nært forestående. 45

En offentlig aftale – ikke en afsluttet debat

Mødet mundede ud i fælles formuleringer om sikkerhedsforanstaltninger, men ikke enighed om statens rolle. Amodeis ønske om lovpligtige, uafhængige revisioner og Trumps præference for frivilligt virksomhedstilsyn peger på det centrale, uafklarede spørgsmål: Hvem skal fastsætte og håndhæve kravene til AI-sikkerhed? 4

Aftalen bør derfor først og fremmest ses som en frivillig ramme for, hvad virksomhederne selv lover at gøre. Den viser ikke, at lederne var enige om omfanget af AI-risiciene – eller om selvregulering er tilstrækkeligt.