Amodeis krav på långsammare AI-utveckling skakar marknaden och politiken

Dario Amodeis uppmaning att bromsa förbättringstakten för de mest kraftfulla AI-modellerna blev snabbt mer än en fråga om teknisk säkerhet. Den skapade ovanlig offentlig samsyn mellan ledare för konkurrerande AI-bolag, bidrog till att skjuta OpenAI:s väntade börsnotering bortom 2026, pressade AI-exponerade aktier och möttes av ett tydligt nej från USA:s president Donald Trump. 1710

Amodeis förslag: att styra tempot vid AI-fronten

Anthropic-chefen efterlyste inte ett stopp för AI-forskningen. I stället föreslog han att branschen ska "styra tempot vid fronten" – alltså medvetet dämpa hur snabbt företag förbättrar kapaciteten i sina mest avancerade modeller. Tanken är att säkerhetsarbete, tillsyn och samordning ska hinna ikapp.

Amodei varnade för att systemen kan bli allt svårare för människor att förstå och kontrollera, särskilt om AI i praktiken börjar bidra till att skapa nästa generation AI. 177

Hans plan har tre huvuddelar:

1. Oberoende tillsyn i de ledande AI-laboratorierna. Anthropic säger att externa granskare ska få permanent åtkomst på medarbetarnivå till bolagets system. De ska kunna kontrollera att säkerhetsåtgärder följs, rapportera incidenter och utvärdera modellernas anpassning under träning. 17
2. Samordning mellan bolagen vid AI-fronten. Amodei vill se gemensamma säkerhetsstandarder och begränsningar som motverkar en okontrollerad kapplöpning. 17
3. Internationellt samarbete. Förslaget förutsätter att regeringar samarbetar för att hantera riskerna med avancerad AI. 17

Den första punkten är särskilt betydelsefull. Den innebär att en del av säkerhetsbedömningen flyttas utanför bolagets egna interna processer. Det handlar inte om en enstaka extern revision, utan om löpande insyn och granskning.

Altman stödjer förslaget – och flyttar OpenAI:s börsnotering

OpenAI-chefen Sam Altman ställde sig offentligt bakom Amodeis linje och skrev att även OpenAI behöver "styra tempot vid fronten". För två av de mest synliga konkurrenterna i AI-kapplöpningen var det en ovanlig markering av enighet. 1

Altman kopplade stödet till ett affärsbeslut med stora följder: OpenAI ska inte börsnoteras under 2026. Han beskrev en börsnotering just nu som "olämplig" och hänvisade till att bolaget har omfattande arbete kvar kring säkerhet och anpassning. Enligt Reuters anser Altman att till och med en sannolikhet på 10 procent för att AI orsakar mänsklighetens utrotning före decenniets slut är oacceptabel.

I praktiken signalerade OpenAI att säkerhetsarbetet kan väga tyngre än tidpunkten för en av teknikbranschens mest uppmärksammade väntade börsnoteringar. Uttalandet gav ingen detaljerad offentlig plan för exakt hur modellutvecklingen ska bromsas, men placerade bolaget tydligt på den mer försiktiga sidan i tempofrågan.

Varningarna som kom före utspellet

Debatten tog fart efter att forskaren Jacob Coxon lämnade sin tjänst. Coxon har sagt att han arbetat med forskning om förträning – den tidiga och resurskrävande fas då modeller lär sig från stora datamängder – både på OpenAI och Anthropic. Han anklagade bolagen för att "spela med våra liv" i jakten på AI-system som kan förbättra sig själva. 18

Även Evan Hubinger, chef för Alignment Science på Anthropic, deltog i diskussionen. Enligt CNBC sade Hubinger att han personligen bedömer sannolikheten till mer än 10 procent för att AI kan döda alla människor detta decennium. Det var en individuell riskbedömning i den offentliga debatten – inte en officiell sannolikhetsbedömning från Anthropic och inte en bevisad prognos.

Varningarna gjorde en sedan länge abstrakt diskussion om katastrofrisker mer akut: bör AI-laboratorier fortsätta att maximera kapacitetsvinster medan skyddsmekanismerna ännu utvecklas?

Därför föll AI-aktierna

Marknaden tolkade kravet på långsammare utveckling som ett hot mot antagandena bakom AI-rallyt: fortsatt snabba förbättringar av modellerna, stora investeringar i beräkningskapacitet och stark efterfrågan på chip samt annan infrastruktur. AI-kopplade aktier i Asien föll efter beskeden, och även terminer för amerikanska aktieindex sjönk.

SoftBank, en stor investerare i OpenAI, föll som mest 13,2 procent i Tokyo, enligt Reuters. Samma rapport beskrev hur nedgången spred sig bland AI-relaterade aktier i Asien. Andra rapporter angav att Nasdaq-terminer föll omkring 1,5 procent i förhandeln när chiptillverkare kom under press.

Ett börsfall bevisar inte att investeringar i AI eller efterfrågan på chip kommer att kollapsa. Men det visade att investerare räknade om en risk: om framstegen i de mest avancerade modellerna begränsas eller fördröjs medvetet, kan förväntade intäkter och avkastning för modellutvecklare, infrastrukturleverantörer och AI-investeringsbolag komma senare än marknaden tidigare räknat med.

Trump: USA får inte tappa mot Kina

Trump avfärdade kravet på långsammare utveckling och beskrev AI främst som en fråga om USA:s strategiska försprång gentemot Kina. "Den som vinner AI vinner", sade han och hävdade att USA leder kapplöpningen och måste fortsätta göra det. 10

Där syns konfliktens politiska kärna. Förespråkare för säkerhet argumenterar för att mer tid till tester, forskning om anpassning och oberoende granskning kan minska risken för allvarliga skador. Motståndare till en inbromsning befarar att ensidiga begränsningar kan gynna stater eller företag som fortsätter att driva utvecklingen framåt utan motsvarande regler. 1710

Amodei har själv pekat ut bristande internationellt samarbete – särskilt från motståndarländer som Kina – som den svåraste frågan för ett system som styr utvecklingstakten. Om reglerna bara gäller vissa ledande AI-laboratorier kan säkerhetsinriktade bolag få bära de kommersiella och geopolitiska kostnaderna, medan själva kapprustningen fortsätter.

Vad tvisten innebär framåt

Situationen har skapat en ovanlig blandning av samsyn och konflikt:

• Ledarna för AI-laboratorierna är överens om behovet av starkare säkerhetsåtgärder. Altman stödde Amodeis uppmaning, medan Anthropic har åtagit sig inbyggd granskning av tredje part.
• De praktiska detaljerna är fortfarande olösta. Stöd för att "styra tempot" innebär inte i sig gemensamma tröskelvärden, kontrollsystem eller ett bindande internationellt avtal. 17
• OpenAI:s börsnotering påverkas direkt. Altman har uteslutit en notering 2026 med hänvisning till säkerhetsprioriteringar.
• Anthropics väg till börsen är mer oklar i den tillgängliga rapporteringen. Källorna styrker bolagets åtagande om externa granskare och dess bredare policyförslag, men inte att Anthropic formellt ändrat tidplanen för en börsnotering på grund av tvisten.

I grunden handlar frågan inte bara om huruvida AI ska fortsätta utvecklas. Den handlar om vem som bestämmer takten, vilka oberoende belägg som ska krävas innan modeller blir mer kapabla – och om säkerhetslöften kan stå emot det kommersiella och geopolitiska trycket att gå snabbare fram. 1710