Trump avfärdar AI-inbromsning – Amodei vill ha skarpare regler för frontmodeller

Donald Trump beskriver debatten om avancerad AI främst som en geopolitisk kapplöpning med Kina. I offentliga uttalanden sade han att USA måste behålla ledningen, eftersom ”den som vinner AI, vinner”. Han kallade senare påståenden om att AI kan ta över världen eller förstöra mänskligheten för en ”HOAX” och beskrev motstånd mot AI och datacenter som en ”SICK conspiracy” som gynnar Kina. 1719

Därför gick Trump till angrepp mot Dario Amodei

Trumps reaktion kom efter att Anthropics vd Dario Amodei uppmanat branschen att medvetet dra ned takten i utvecklingen av de mest kapabla AI-systemen. De två utgår från olika prioriteringar: Trump betonar amerikanskt tekniskt ledarskap, medan Amodei menar att modellernas förmågor kan utvecklas snabbare än säkerhetsarbete, tillsyn och kontrollmekanismer hinner med. 17

Trump hävdade också att den befintliga straffrättsliga och regulatoriska makten redan är omfattande, och att en stark president är det skydd som behövs. Hans kritik mot Amodei förenade därmed skepsis mot varningar om existentiella risker med oro för att formella begränsningar ska försvaga amerikanska företag gentemot kinesiska rivaler. 1921

Amodeis plan: att ”hålla tillbaka gränsen”

Amodei föreslog inte att AI-forskningen ska upphöra. I essän We Must Pace the Frontier lade han fram en plan i tre delar för att bromsa okontrollerade kapacitetsökningar så att säkerhetsarbete, testning och styrning hinner ikapp.

1. Permanenta, oberoende granskare i laboratorier som utvecklar frontmodeller. Anthropic säger att externa granskare ska få löpande åtkomst till systemen på nivå med företagets egna anställda. Uppgiften ska vara att kontrollera säkerhetsrutiner, rapportera incidenter och bedöma modellernas så kallade alignment – om de fortsätter att agera i linje med sina avsedda mål – under träningen. 16
2. Samordning mellan företag som utvecklar de mest avancerade modellerna. De ledande laboratorierna bör enligt planen enas om gemensamma säkerhetsstandarder och gränser för okontrollerad utveckling, i stället för att bara tävla om allt snabbare kapacitetslyft.
3. Internationellt samarbete. Amodei argumenterar för att de allvarligaste AI-riskerna på sikt kräver samarbete som går utöver ett enskilt land eller block.

Den första punkten presenterades som ett omedelbart ensidigt åtagande från Anthropic, inte bara som ett krav på regeringar eller konkurrenter. 16

Stöd från Altman, Musk och Nadella – men med viktiga förbehåll

OpenAI:s vd Sam Altman sade att han delar uppfattningen att utvecklingen vid den tekniska fronten bör ske i ett kontrollerat tempo och att OpenAI också ska ge externa granskare tillgång. Elon Musk, som leder xAI, sade även han att han instämde med Amodei.

Microsofts vd Satya Nadella välkomnade både medveten tempohållning och inbäddade externa granskare, men lade till ett centralt villkor: tillsynen får inte styras av bara ett fåtal företag. Han sade att varje strävan efter superintelligens måste gagna mänskligheten och hållas under mänsklig kontroll.

Reaktionerna innebär inte att det redan finns ett gemensamt regelverk. Däremot visar de att flera ledande aktörer stöder mer systematisk och fortlöpande granskning av de mest avancerade systemen.

Kärnfrågan: går det att bromsa utan att Kina fortsätter?

Den tidigare Anthropic- och OpenAI-forskaren Jacob Coxon sade att personer som bygger systemen är ”genuint rädda” för mänsklighetens framtid. Han välkomnade idén om långsammare utveckling, men framhöll att den måste samordnas med Kina. 1

Detta är den centrala knuten i debatten. Ett företag eller ett land som ensamt drar ned tempot kan frukta att förlora mark till konkurrenter som inte gör det. Kinas utrikesdepartement avvisade Amodeis uppmaning om begränsningar som berör Kinas AI-kapacitet och behandlade den som ett amerikanskt försök att hålla tillbaka Kina, snarare än som neutral säkerhetsstyrning. 4

Resultatet är ett förtroendeproblem: förespråkare ser ömsesidiga regler som ett sätt att minska riskerna, medan motståndare kan se samma regler som ett sätt att skydda den andra sidans tekniska försprång.

Kritiken: säkerhetsregler kan skydda de redan ledande bolagen

Investeraren Michael Burry kallade kampanjen för långsammare AI-utveckling för ”självbetjänande”. Hans invändning är att långsammare utveckling och tyngre efterlevnadskrav kan gynna redan etablerade AI-bolag, eftersom nya utmanare får svårare att konkurrera. Han ifrågasatte också att dagens stora språkmodeller är på väg mot artificiell generell intelligens, AGI.

Kritiken motbevisar inte säkerhetsriskerna. Den pekar däremot på en praktisk risk i politiken: regler som ska göra utvecklingen av frontmodeller säkrare kan samtidigt befästa makten hos de företag som har bäst resurser att uppfylla dem. Ett trovärdigt ramverk måste därför hantera både säkerhet och koncentration av makt.

Varför det planerade Trump–Xi-mötet den 24 september spelade roll

Trump och Kinas ledare Xi Jinping väntades diskutera AI-styrning vid ett planerat möte den 24 september. 4 Mötet var betydelsefullt eftersom den svåraste delen av en säkerhetsstrategi för front-AI inte är att skriva regler för ett enskilt bolag. Det är att skapa överenskommelser som rivaliserande stormakter uppfattar som ömsesidiga och möjliga att kontrollera.

Trumps Kinafokuserade retorik och Pekings invändningar mot begränsningar av landets AI-utveckling visar hur svårt detta kan bli. Debatten handlar alltså om mer än valet mellan att bromsa eller accelerera: den handlar om huruvida AI-kapplöpningen kan styras utan att säkerhetspolitiken blir ännu en front i den geopolitiska konkurrensen. 174