Trump avviser AI-nedbremsing – Amodei vil ha faste sikkerhetskontroller

Donald Trump avviser at USA bør bremse utviklingen av de mest avanserte AI-systemene. For ham er hovedspørsmålet konkurransen med Kina: «Whoever wins AI wins», sa han, og understreket at USA må beholde ledelsen. Senere kalte han påstanden om at AI kan ta over verden eller ødelegge menneskeheten for en «HOAX». Han omtalte også motstand mot AI og datasentre som en «SICK conspiracy» som gagner Kina. 1719

Det setter ham på kollisjonskurs med Dario Amodei, toppsjef i AI-selskapet Anthropic. Amodei ber ikke om å stanse forskningen, men om å roe tempoet i kappløpet om stadig mer kapable modeller, slik at sikkerhetstesting og tilsyn kan komme ajour.

Derfor gikk Trump til angrep på Amodei

Trump framstilte sikkerhetsadvarsler og nye begrensninger som en mulig strategisk ulempe for USA. Han hevdet at eksisterende straffe- og reguleringsmyndighet allerede er omfattende, og skrev at en sterk president er det nødvendige «rekkverket». 1921

Konflikten bunner i ulike prioriteringer. Trump ser først og fremst AI som et geopolitisk kappløp USA ikke må tape. Amodei mener derimot at systemenes evner kan utvikle seg raskere enn evnen til å teste, forstå og kontrollere dem. 17

Amodeis plan: «We Must Pace the Frontier»

Amodeis forslag har tre deler. Målet er ikke å fryse utviklingen, men å gi sikkerhetsarbeid, evaluering og styringsordninger tid til å ta igjen den tekniske framgangen.

1. Faste, uavhengige kontrollører i laboratoriene. Anthropic sier selskapet vil gi tredjepartsevaluatorer varig tilgang på nivå med ansatte. De skal kunne kontrollere om sikkerhetstiltak følges, rapportere hendelser og vurdere om modellene oppfører seg i tråd med de tiltenkte målene under trening. 16
2. Samordning mellom selskapene som utvikler frontmodeller. Ledende laboratorier skal enes om felles sikkerhetsstandarder og begrensninger på ukontrollert utvikling, i stedet for bare å konkurrere om raskest mulig kapabilitetsvekst.
3. Internasjonalt samarbeid. De mest alvorlige risikoene kan etter Amodeis syn ikke håndteres av ett land eller én blokk alene.

Anthropics løfte om uavhengige kontrollører ble presentert som et konkret, ensidig tiltak selskapet selv vil gjennomføre – ikke bare som et krav til myndigheter eller konkurrenter. 16

Støtte fra Altman og Musk – med Nadellas forbehold

OpenAI-sjef Sam Altman sa at han er enig i at utviklingen ved fronten bør styres i et lavere tempo, og at OpenAI også vil gi eksterne evaluatorer tilgang. Elon Musk, som leder xAI, sa også at han støttet Amodei.

Microsoft-sjef Satya Nadella støttet ideen om bevisst tempo og innebygde, uavhengige evaluatorer. Han la imidlertid til en sentral betingelse: Slike ordninger må ikke kontrolleres av en liten krets av selskaper. Han sa at en eventuell jakt på superintelligens må komme menneskeheten til gode og holdes under menneskelig kontroll.

Dette er ikke det samme som en ferdig, felles reguleringsordning. Men det viser støtte fra flere ledende aktører til mer permanent og formalisert kontroll av de mest avanserte systemene.

Det vanskeligste spørsmålet: Kan noen bremse alene?

Tidligere Anthropic- og OpenAI-forsker Jacob Coxon sa at folk som bygger disse systemene er «genuinely frightened» for menneskehetens framtid. Han ønsket en nedbremsing velkommen, men understreket at den måtte samordnes med Kina. 1

Det peker på dilemmaet i hele debatten: Et selskap eller et land som alene senker farten, kan frykte å bli forbigått av konkurrenter som ikke gjør det samme. Kinas utenriksdepartement avviste Amodeis oppfordring om begrensninger som berører Kinas AI-kapasitet, og behandlet den som et amerikansk forsøk på å holde Kina tilbake – ikke som nøytral sikkerhetspolitikk. 4

Dermed blir sikkerhet også et spørsmål om tillit. Tilhengere ser gjensidige regler som en måte å redusere risiko på. Motstandere kan se de samme reglene som et verktøy for å sementere den andres teknologiske forsprang.

Kritikken: Kan sikkerhetsregler beskytte de etablerte?

Investor Michael Burry kalte kampanjen for å senke tempoet «self-serving». Hans innvending er at langsommere utvikling og tyngre etterlevelseskrav kan favorisere de største AI-selskapene, som har råd til kontrollapparatet, og gjøre det vanskeligere for nye utfordrere å konkurrere. Han avviser også at dagens store språkmodeller nødvendigvis er på vei mot generell kunstig intelligens, ofte kalt AGI.

Kritikken avviser ikke i seg selv sikkerhetsbekymringene. Den peker derimot på en praktisk politisk risiko: Regler som skal gjøre utviklingen tryggere, kan samtidig konsentrere makten hos selskapene som best kan oppfylle dem.

Hvorfor møtet mellom Trump og Xi var viktig

Trump og Kinas president Xi Jinping var ventet å diskutere AI-styring i et planlagt møte 24. september. 4 Det er viktig fordi den vanskeligste delen av en sikkerhetsstrategi for front-AI ikke er å skrive regler for ett selskap, men å etablere ordninger rivaliserende stormakter oppfatter som gjensidige og håndhevbare.

Trumps Kina-først-retorikk og Beijings motstand mot begrensninger på egen AI-utvikling viste hvor krevende det blir. Debatten handler derfor ikke bare om å akselerere eller bremse: Den handler om hvorvidt AI-kappløpet kan styres uten at sikkerhetspolitikken blir enda en front i stormaktskonkurransen. 174