Amodei, Altman og Musk samles om langsommere udvikling af frontlinje-AI

Det usædvanlige ved sagen er, at tre markante rivaler i AI-kapløbet offentligt fandt fælles fodslag. Anthropic-direktør Dario Amodei opfordrede til at sænke tempoet i forbedringen af de mest avancerede AI-modeller, og både OpenAI-chef Sam Altman og xAI-grundlægger Elon Musk bakkede overordnet op. Det førte dog hverken til en bindende international pause eller til dokumentation for, at autonome AI-agenter allerede havde overtaget internettet. 16

En advarsel – ikke en konstatering

Amodei vurderede, at AI uden en opbremsning inden for seks til tolv måneder kan blive i stand til at styre en sværm af agenter, som potentielt kan overtage store dele af internettet. Det var en fremadskuende sikkerhedsadvarsel, ikke en rapport om en konkret overtagelse, der allerede var indtruffet. 1

Hans forslag var ikke at standse al AI-forskning. Pointen var at købe tid til sikkerhedsarbejdet: ekstern og uafhængig overvågning, fælles sikkerhedsstandarder i branchen og international koordinering. Anthropic har blandt andet foreslået, at tredjepartsevaluatorer får permanent adgang på niveau med ansatte for at kunne kontrollere sikkerhedsforanstaltninger og rapportere hændelser. 68

Altman tilsluttede sig idéen om at "pace" udviklingen af frontlinjemodeller og sagde, at OpenAI ville følge op på forslaget om uafhængige evaluatorer med omfattende adgang. Omtalen af en mulig udsættelse af OpenAIs børsnotering var derimod netop en mulighed eller et forslag for at prioritere sikkerhed – ikke en bekræftet, formel udsættelse. 713

Musk støttede også Amodeis opfordring, selv om hans xAI konkurrerer med både Anthropic og OpenAI. 6

Baggrunden: rapporter om misbrug af Claude

Opfordringen kom kort efter, at Anthropic offentliggjorde en rapport om forsøg på misbrug af virksomhedens Claude-modeller. Ifølge virksomheden blev forsøg på brug i forskning med mulig relevans for biologiske våben og i formodet Rusland-tilknyttet cyberspionage mod Ukraine afbrudt. Anthropic oplyste også, at kinesiske konkurrenter angiveligt havde forsøgt at udtrække eller kopiere Claude-relaterede kapabiliteter. Det er virksomhedens egne påstande og ikke uafhængigt afgjorte konklusioner. 17

Rapporten viser dermed den type konkrete misbrug, som AI-sikkerhedsdebatten handler om. Den beviser ikke Amodeis mere vidtgående prognose om, hvad fremtidige, mere kapable agent-sværme kan gøre.

Trump: USA må ikke sætte sig selv bagud

USA's præsident Donald Trump afviste tanken om at bremse den amerikanske indsats væsentligt. Han lagde i stedet vægt på konkurrencen med Kina og sagde: "whoever wins AI, wins". Hans svar placerer ham i den lejr, der ser teknologisk forspring og national sikkerhed som en større risiko end en ensidig amerikansk opbremsning. 10

Debatten er derfor delt mellem to grundlæggende synspunkter:

• Sikkerhed først: Frivillige løfter fra selskaberne er ikke nok. Senator Bernie Sanders kaldte opbremsningen en begyndelse, men ikke tilstrækkelig, og opfordrede Trump og Kinas præsident Xi Jinping til at forhandle en traktat om pause i avanceret AI-udvikling og et forbud mod kunstig superintelligens. 5
• Konkurrence og afskrækkelse: En hård regulering eller en ensidig amerikansk pause kan give Kina et strategisk forspring. Trumps udtalelser ligger klart i denne kategori. 10

Det centrale politiske spørgsmål er derfor, om frivillige virksomhedsinitiativer kan være troværdige, eller om Kongressen skal indføre håndhævelige regler for de mest avancerede modeller – og om en pludselig opbremsning samtidig vil skabe konkurrence- og markedsrisici.

Der er ikke tilstrækkelig dokumentation i de gennemgåede kilder til at fastslå de konkrete positioner, som i spørgsmålet tillægges Mike Johnson, Hakeem Jeffries, David Sacks, Alex Karp, Josh Gottheimer eller bestemte investorer. Kilderne dokumenterer heller ikke en aftalt Trump-Xi-dagsorden ud over Sanders' forslag, og de er heller ikke tilstrækkelige til at bekræfte detaljerne om Jacob Coxons fratræden.