Oproep tot tragere AI-ontwikkeling zet OpenAI-beursgang uit en schudt markten op

De oproep van Anthropic-topman Dario Amodei om de ontwikkeling van de krachtigste AI-modellen af te remmen, is in korte tijd uitgegroeid van een veiligheidsdiscussie tot een conflict over beurswaarderingen, geopolitiek en bedrijfsstrategie. OpenAI-topman Sam Altman schaarde zich publiekelijk achter het idee, stelde een beursgang uit en zette veiligheid nadrukkelijk boven de timing van een IPO. Beleggers reageerden nerveus, terwijl president Donald Trump de oproep afwees met het oog op de concurrentie met China. 1710

Wat Amodei precies voorstelt

Amodei pleit niet voor een stop op AI-onderzoek. Hij wil dat bedrijven aan de absolute technologische voorhoede het tempo van capaciteitsverbeteringen bewust doseren — in zijn woorden: “pace the frontier”. Zo moeten veiligheidsonderzoek, toezicht en onderlinge afstemming een kans krijgen om bij te blijven. Zijn zorg is dat steeds krachtigere systemen moeilijker te doorgronden en te beheersen worden, vooral als AI wezenlijk kan bijdragen aan de bouw van een volgende generatie AI. 177

Zijn plan bestaat uit drie onderdelen:

1. Onafhankelijk toezicht binnen bedrijven die frontier-AI ontwikkelen. Anthropic wil externe beoordelaars permanente toegang op werknemerniveau geven. Zij moeten kunnen controleren of veiligheidsmaatregelen worden nageleefd, incidenten kunnen melden en tijdens de training kunnen beoordelen hoe goed modellen op menselijke doelen en veiligheidsprincipes zijn afgestemd. 17
2. Afspraken tussen toonaangevende AI-bedrijven. Amodei bepleit gedeelde veiligheidsnormen en grenzen die een ongeremde wedloop moeten voorkomen. 17
3. Internationale samenwerking. Ook overheden zouden volgens het voorstel moeten samenwerken om de risico’s van geavanceerde AI te beheersen. 17

Vooral die eerste toezegging is concreet. Het gaat niet om een eenmalige externe controle, maar om structurele toegang en voortdurend toezicht buiten de eigen interne toetsing van een bedrijf.

Altman steunt de oproep en schuift OpenAI-IPO door

OpenAI-topman Sam Altman zei publiekelijk dat hij het met Amodei eens is: ook OpenAI moet het tempo aan de technologische grens bewaken. De steun was opvallend, omdat het om twee prominente concurrenten gaat in de race om steeds krachtigere modellen te bouwen. 1

Altman koppelde die steun aan een belangrijke zakelijke beslissing: OpenAI gaat in 2026 niet naar de beurs. Hij noemde een beursgang op dit moment „onverstandig”, omdat er nog veel werk wacht rond veiligheid en alignment — het afstemmen van AI-systemen op menselijke bedoelingen en beperkingen. Reuters meldde dat Altman zelfs een kans van 10% op uitsterven van de mensheid door AI vóór het einde van dit decennium onaanvaardbaar vindt.

Daarmee maakt OpenAI duidelijk dat veiligheidswerk volgens het bedrijf zwaarder kan wegen dan de timing van een van de meest verwachte beursgangen in de technologiesector. Er is geen uitgewerkt publiek tijdpad voor een tragere modelontwikkeling aangekondigd, maar OpenAI heeft zich wel uitgesproken voor een voorzichtiger tempo.

Waarschuwingen van onderzoekers vormden de aanloop

De oproep volgde op het vertrek van Jacob Coxon, een onderzoeker die zei dat hij aan pretraining-onderzoek had gewerkt bij zowel OpenAI als Anthropic. Coxon beschuldigde de bedrijven ervan „met ons leven te gokken” in de race naar AI-systemen die zichzelf kunnen verbeteren. 18

Ook uitspraken van Evan Hubinger, hoofd Alignment Science bij Anthropic, voedden het debat. Volgens CNBC schatte Hubinger persoonlijk de kans dat AI in dit decennium alle mensen zou kunnen doden op meer dan 10%. Dat was een persoonlijke risico-inschatting in het publieke debat, geen officiële kansberekening van Anthropic en ook geen aangetoonde voorspelling.

De waarschuwingen maakten een al langer lopende, vaak abstracte discussie over catastrofale AI-risico’s acuut: moeten laboratoria capaciteiten maximaal blijven opvoeren terwijl de veiligheidswaarborgen nog in ontwikkeling zijn?

Waarom AI-aandelen onder druk kwamen

Beleggers zagen de oproep tot vertraging als een mogelijke bedreiging voor aannames achter de AI-rally: voortdurende sprongen in modelcapaciteit, grote investeringen in rekenkracht en een sterke vraag naar chips en ondersteunende infrastructuur. AI-gerelateerde aandelen in Azië daalden, net als futures op Amerikaanse aandelenindices.

SoftBank, een belangrijke investeerder in OpenAI, verloor in Tokio op het dieptepunt 13,2%, meldde Reuters. De daling sloeg over naar andere AI-gerelateerde aandelen in Azië. Andere berichtgeving meldde dat Nasdaq-futures vóór beursopening ongeveer 1,5% lager stonden, terwijl chipbedrijven onder druk kwamen.

Zo’n marktreactie bewijst niet dat investeringen in AI of de vraag naar chips zullen instorten. Wel liet zij zien welk risico beleggers opnieuw inprijzen: als de vooruitgang van frontier-modellen bewust wordt beperkt of uitgesteld, kunnen verwachte inkomsten en rendementen voor modelbouwers, infrastructuurleveranciers en AI-investeringsvehikels later komen dan eerder was voorzien.

Trump wijst vertraging af vanwege China

Trump verwierp het pleidooi om de ontwikkeling te vertragen. Hij benaderde AI vooral als een strijd om Amerikaans strategisch leiderschap tegenover China. „Whoever wins AI wins”, zei hij, terwijl hij stelde dat de Verenigde Staten voorliggen en die voorsprong moeten behouden. 10

Daarmee legde hij de centrale politieke botsing bloot. Voorstanders van vertraging zeggen dat meer tijd voor testen, alignment-onderzoek en onafhankelijk toezicht de kans op ernstige schade kan verkleinen. Tegenstanders vrezen dat eenzijdige terughoudendheid een voordeel geeft aan landen of bedrijven die zonder vergelijkbare beperkingen doorgaan. 1710

Amodei erkende dat internationale onwil tot samenwerking — in het bijzonder bij rivaliserende landen zoals China — het lastigste vraagstuk is voor zijn voorstel. Wanneer slechts een deel van de frontier-labs vertraagt, kunnen veiligheid gerichte bedrijven de commerciële en geopolitieke kosten dragen, terwijl de onderliggende wedloop gewoon doorgaat.

Wat dit betekent voor AI-bedrijven en beleggers

De episode levert een ongebruikelijke combinatie op van overeenstemming en conflict:

• Leiders van AI-labs vinden elkaar in de behoefte aan sterkere veiligheidsmaatregelen. Altman steunde Amodei’s oproep en Anthropic beloofde ingebedde onafhankelijke toetsing.
• De uitvoering is nog onduidelijk. Steun voor het idee van doseren betekent nog niet dat er gezamenlijke drempels, handhaving of een bindend internationaal akkoord bestaan. 17
• De OpenAI-IPO is rechtstreeks geraakt. Altman sloot een beursgang in 2026 uit wegens veiligheidsprioriteiten.
• Over een beursgang van Anthropic is minder duidelijk. De beschikbare berichtgeving onderbouwt de toezegging over externe beoordelaars en het bredere beleidsvoorstel, maar niet dat Anthropic zijn IPO-planning formeel heeft aangepast door deze discussie.

De kernvraag is dus niet alleen óf AI vooruit moet. Het gaat erom wie het tempo vaststelt, welk onafhankelijk bewijs nodig is vóór modellen krachtiger worden gemaakt en of veiligheidsbeloften standhouden onder commerciële en geopolitieke druk om sneller te gaan. 1710