AI-brems skaper børsuro, utsetter OpenAI-notering og møter Trump-motstand

Dario Amodeis oppfordring om å bremse forbedringen av de mest kapable AI-modellene ble raskt mer enn en sikkerhetsdebatt. Den ga en uvanlig offentlig enighet mellom ledere i konkurrerende AI-selskaper, bidro til at OpenAIs ventede børsnotering ble skjøvet forbi 2026, rystet AI-relaterte aksjer og ble blankt avvist av president Donald Trump. 1710

Hva Amodei foreslår

Anthropic-sjefen ba ikke om stans i AI-forskningen. Forslaget hans er å «passe tempoet ved fronten»: å moderere hvor raskt laboratoriene forbedrer de mest avanserte modellene, slik at sikkerhetsarbeid, tilsyn og koordinering kan holde tritt. Han advarte om at stadig kraftigere systemer kan bli vanskeligere for mennesker å forstå og kontrollere – særlig dersom AI i vesentlig grad bidrar til å bygge neste generasjon AI. 177

Planen har tre hoveddeler:

1. Uavhengig tilsyn i de ledende AI-laboratoriene. Anthropic sier at eksterne evaluatorer skal få varig tilgang til systemene på nivå med ansatte. De skal kunne kontrollere at sikkerhetstiltak følges, rapportere hendelser og vurdere modellenes tilpasning til menneskelige mål under treningen. 17
2. Koordinering mellom selskaper som utvikler grensemodeller. Amodei vil ha felles sikkerhetsstandarder og begrensninger som kan hindre et ukontrollert kappløp. 17
3. Internasjonalt samarbeid. Forslaget bygger på samarbeid mellom myndigheter for å håndtere risikoen ved avansert AI. 17

Det første punktet er spesielt viktig fordi deler av sikkerhetsvurderingen flyttes ut av selskapenes egne kontrollsystemer. Dette er et løfte om løpende innsyn og gransking, ikke bare en enkeltstående ekstern revisjon.

Altman støttet forslaget – og utsatte OpenAIs IPO

OpenAI-sjef Sam Altman ga offentlig støtte til Amodei og skrev at også OpenAI må «passe tempoet ved fronten». Det ble omtalt som en bemerkelsesverdig enighet mellom sentrale konkurrenter i kampen om stadig kraftigere AI-modeller. 1

Samtidig varslet Altman en viktig forretningsmessig konsekvens: OpenAI skal ikke på børs i 2026. Han kalte en børsnotering nå «uklok» og viste til omfattende arbeid med sikkerhet og modelltilpasning. Reuters meldte at Altman mener selv en risiko på 10 prosent for at AI kan føre til menneskelig utryddelse innen tiårets slutt, er uakseptabel.

I praksis signaliserer dette at OpenAI lar sikkerhetsarbeidet veie tyngre enn tidspunktet for en av teknologibransjens mest etterlengtede børsnoteringer. Selskapet la ikke frem en detaljert offentlig plan for å bremse modellene, men har forpliktet seg til en mer forsiktig utviklingstakt.

Advarslene som kom først

Utspillet kom etter at forskeren Jacob Coxon sluttet. Coxon har sagt at han jobbet med forskning på forhåndstrening hos både OpenAI og Anthropic, og anklaget selskapene for å «gamble med livene våre» i kappløpet mot AI-systemer som kan forbedre seg selv. 18

Debatten ble også preget av uttalelser fra Evan Hubinger, leder for Alignment Science i Anthropic. Ifølge CNBC sa Hubinger at han personlig anslår sannsynligheten for at AI dreper alle mennesker dette tiåret til over 10 prosent. Det er hans personlige risikovurdering i den offentlige debatten – ikke et offisielt sannsynlighetsanslag fra Anthropic eller en påvist prognose.

Advarslene gjorde en langvarig og ofte abstrakt diskusjon om katastrofal AI-risiko til et konkret spørsmål for selskapslederne: Bør laboratoriene fortsatt maksimere kapasitetsforbedringer mens sikkerhetsmekanismene fortsatt utvikles?

Hvorfor AI-aksjer falt

Investorene tolket oppfordringen som en utfordring mot sentrale antakelser bak AI-rallyet: jevnt sterkere modeller, store investeringer i datakraft og høy etterspørsel etter brikker og tilhørende infrastruktur. AI-relaterte aksjer i Asia falt etter utspillene, og futures på amerikanske aksjer gikk også ned.

SoftBank, en stor OpenAI-investor, falt på det meste 13,2 prosent i Tokyo, ifølge Reuters. Fallet spredte seg til andre AI-relaterte aksjer i Asia. Andre meldinger viste Nasdaq-futures rundt 1,5 prosent ned før åpning, med brikkeprodusenter under særlig press.

Børsfallet beviser ikke at AI-investeringer eller etterspørselen etter databrikker vil kollapse. Det viste derimot at markedet priset inn en risiko: Dersom fremskritt i de mest avanserte modellene bevisst begrenses eller forsinkes, kan ventede inntekter og avkastning for modellutviklere, infrastrukturselskaper og AI-investeringsmiljøer komme senere enn tidligere antatt.

Trump avviser en oppbremsing

Trump avviste tanken om å bremse utviklingen. Han framstilte AI først og fremst som en strategisk konkurranse der USA må beholde forspranget på Kina. «Den som vinner AI, vinner», sa han, samtidig som han hevdet at USA leder kappløpet. 10

Uttalelsen setter ord på den sentrale politiske konflikten. Sikkerhetsforkjempere mener mer tid til testing, forskning på modelltilpasning og uavhengig tilsyn kan redusere faren for alvorlig skade. Motstandere av en oppbremsing frykter derimot at ensidig tilbakeholdenhet kan gi en fordel til land eller selskaper som fortsetter å utvikle kapasitet uten tilsvarende grenser. 1710

Amodei har selv pekt på internasjonal manglende vilje til samarbeid – særlig fra motstanderland som Kina – som det vanskeligste spørsmålet i et slikt regime. En politikk som bare gjelder noen få laboratorier ved AI-fronten, kan påføre sikkerhetsorienterte selskaper kommersielle og geopolitiske kostnader uten å stanse selve kappløpet.

Hva konflikten betyr videre

Saken etterlater en uvanlig blanding av enighet og konflikt:

• Lederne i AI-laboratoriene er enige om behovet for sterkere sikkerhetstiltak. Altman støttet Amodeis oppfordring, og Anthropic har lovet fast tredjepartsevaluering.
• De praktiske rammene er fortsatt uavklarte. Offentlig støtte til å «passe tempoet» etablerer ikke i seg selv felles terskler, håndheving eller en bindende internasjonal avtale. 17
• OpenAIs børsnotering ble direkte påvirket. Altman utelukket en notering i 2026 med henvisning til sikkerhetsprioriteringer.
• Anthropics vei mot børsen er mindre klar i det tilgjengelige kildematerialet. Kildene dokumenterer selskapets løfte om evaluatorer og det bredere politiske forslaget, men ikke at Anthropic formelt har endret tidspunktet for en børsnotering på grunn av striden.

Til syvende og sist handler uenigheten ikke bare om hvorvidt AI skal utvikles videre. Den handler om hvem som bestemmer farten, hvilken uavhengig dokumentasjon som kreves før modellene blir kraftigere, og om sikkerhetsløfter kan stå seg mot kommersielt og geopolitisk press om å gå raskere fram. 1710