AI-opbremsning udløser IPO-udsættelse, aktiefald og Trumps modangreb

Anthropics topchef Dario Amodeis opfordring til at sætte tempoet ned i udviklingen af de mest avancerede AI-modeller blev hurtigt mere end en debat om sikkerhed. Den skabte usædvanlig offentlig enighed blandt ledere i AI-branchen, skubbede OpenAIs ventede børsnotering til efter 2026, rystede AI-relaterede aktier og blev kontant afvist af præsident Donald Trump. 1710

Amodeis forslag: Sæt tempoet ned ved AI-fronten

Amodei foreslog ikke at standse AI-forskningen. Hans idé om at "pace the frontier" handler om bevidst at dæmpe hastigheden, hvormed de førende laboratorier forbedrer modellernes evner, så sikkerhedsarbejde, kontrol og koordinering kan følge med.

Han advarede om, at stadig stærkere systemer kan blive sværere for mennesker at forstå og styre – særligt hvis AI i væsentlig grad begynder at hjælpe med at udvikle næste generation af AI. 177

Planen har tre hoveddele:

1. Uafhængigt tilsyn i de førende AI-laboratorier. Anthropic vil give tredjepartsevaluatorer permanent adgang på niveau med ansatte. De skal kunne kontrollere, om sikkerhedstiltag følges, indberette hændelser og vurdere modellernes alignment – altså hvor godt deres adfærd stemmer overens med menneskelige mål og sikkerhedskrav – under træningen. 17
2. Koordinering mellem de førende AI-selskaber. Amodei efterlyser fælles sikkerhedsstandarder og begrænsninger, der skal forhindre et ukontrolleret kapløb. 17
3. Internationalt samarbejde. Forslaget forudsætter, at regeringer samarbejder om at håndtere risiciene ved avanceret AI. 17

Det første punkt er centralt, fordi en del af sikkerhedsvurderingen flyttes uden for selskabernes egne interne processer. Der er tale om løbende adgang og kontrol – ikke bare en enkelt ekstern revision.

Altman støtter forslaget – og udskyder OpenAIs IPO

OpenAI-chef Sam Altman støttede offentligt Amodeis linje og skrev, at OpenAI også har behov for at "pace the frontier". Meldingen blev beskrevet som en bemærkelsesværdig enighed mellem to markante konkurrenter i kapløbet om stadig stærkere AI. 1

Altman knyttede samtidig opbakningen til en væsentlig forretningsbeslutning: OpenAI vil ikke gå på børsen i 2026. Han kaldte en børsnotering på nuværende tidspunkt "ill-advised" og henviste til, at selskabet fortsat har omfattende arbejde med sikkerhed og alignment. Reuters skrev, at Altman anser selv en risiko på 10 % for, at AI kan føre til menneskehedens udryddelse inden udgangen af årtiet, for uacceptabel.

Konsekvensen er klar: OpenAI signalerer, at sikkerhedsarbejdet kan veje tungere end timingen af en af teknologibranchens mest ventede IPO'er. Det er ikke en detaljeret, offentlig tidsplan for langsommere modeludvikling, men det placerer selskabet tydeligt på den mere forsigtige side af debatten.

Advarslerne, der gik forud

Opfordringen kom efter Jacob Coxons opsigelse. Coxon sagde, at han havde arbejdet med pretraining-forskning hos både OpenAI og Anthropic, og han anklagede selskaberne for at "gamble med vores liv" i kapløbet mod AI-systemer, der kan forbedre sig selv. 18

Debatten omfattede også udtalelser fra Anthropics leder af alignment science, Evan Hubinger. Ifølge CNBC sagde Hubinger, at han personligt vurderer sandsynligheden for, at AI kan slå alle mennesker ihjel i dette årti, til over 10 %. Det er hans personlige risikovurdering i den offentlige debat – ikke Anthropics officielle sandsynlighedsprognose eller en dokumenteret forudsigelse.

Advarslerne gjorde en ellers ofte abstrakt diskussion om katastrofale AI-risici til et konkret spørgsmål for selskabslederne: Skal laboratorier fortsætte med at maksimere kapabiliteterne, mens beskyttelsesforanstaltningerne stadig udvikles?

Hvorfor AI-aktier faldt

Investorerne tolkede kravet om lavere tempo som en udfordring af nogle af antagelserne bag AI-aktiernes optur: vedvarende forbedringer af modeller, enorme investeringer i regnekraft og stærk efterspørgsel efter chips og den øvrige infrastruktur. AI-relaterede aktier faldt i Asien, mens amerikanske aktiefutures også gik ned.

SoftBank, der er en stor investor i OpenAI, faldt på et tidspunkt med hele 13,2 % i Tokyo, ifølge Reuters. Samme rapport beskrev, hvordan reaktionen bredte sig til andre AI-relaterede aktier i Asien. Andre medier rapporterede, at Nasdaq-futures faldt omkring 1,5 % i førmarkedet, presset af chipaktier.

Kursfaldene beviser ikke, at AI-investeringer eller efterspørgslen efter chips vil bryde sammen. Men de viste, at markedet omvurderede en risiko: Hvis fremskridt ved AI-fronten bevidst bremses eller udsættes, kan forventede indtægter og afkast hos modeludviklere, infrastrukturleverandører og AI-investeringsfonde komme senere end antaget.

Trump afviser argumentet for en opbremsning

Trump afviste opfordringen til at sænke tempoet og fremstillede AI først og fremmest som en kamp om USA's strategiske forspring i forhold til Kina. "Whoever wins AI wins," sagde han og argumenterede for, at USA er foran og skal blive ved med at være det. 10

Udtalelsen indkapsler den centrale politiske konflikt. Fortalere for sikkerhed mener, at mere tid til test, alignment-forskning og uafhængigt tilsyn kan mindske risikoen for alvorlig skade. Modstandere af en opbremsning frygter derimod, at ensidig tilbageholdenhed giver en fordel til stater eller virksomheder, som fortsætter med at udvikle kapabiliteter uden tilsvarende begrænsninger. 1710

Amodei anerkendte selv, at international manglende opbakning – især fra modstanderstater som Kina – er det sværeste problem for en ordning, der skal styre tempoet. Hvis reglerne kun gælder nogle af de førende laboratorier, kan sikkerhedsorienterede virksomheder komme til at bære både kommercielle og geopolitiske omkostninger, mens selve kapløbet fortsætter.

Hvad striden betyder for AI-selskaber og aktiemarkeder

Forløbet efterlader en usædvanlig blanding af enighed og konflikt:

• Lederne af AI-laboratorierne fandt fælles fodslag om stærkere sikkerhedstiltag. Altman støttede Amodeis opfordring, mens Anthropic forpligtede sig til indlejret tredjepartsevaluering.
• De praktiske detaljer er stadig uløste. Offentlig støtte til at sætte tempoet ned fastlægger ikke i sig selv fælles tærskler, håndhævelsesmekanismer eller en bindende international aftale. 17
• OpenAIs børsnotering blev direkte påvirket. Altman udelukkede en notering i 2026 med henvisning til sikkerhedsprioriteter.
• Anthropics vej mod en børsnotering er mindre klar i den tilgængelige rapportering. Kilderne dokumenterer selskabets løfte om evaluatorer og det bredere politiske forslag, men ikke at Anthropic formelt har ændret tidspunktet for en IPO på grund af konflikten.

I sidste ende handler striden ikke blot om, hvorvidt AI skal udvikle sig. Den handler om, hvem der bestemmer tempoet, hvilken uafhængig dokumentation der skal foreligge, før modellerne bliver stærkere, og om sikkerhedsløfter kan holde under det kommercielle og geopolitiske pres for at gå hurtigere frem. 1710