Yakovenko’s sneer over AI-vertraging: wat staat er werkelijk op het spel?

Anatoly Yakovenko’s korte reactie — ‘Profitability at $1 trillion mcap’ — was een sceptische sneer naar de prikkels achter oproepen om de ontwikkeling van frontier-AI te vertragen. De medeoprichter van Solana leek te suggereren dat een veiligheidsgerichte vertraging ook zakelijk voordelig kan zijn voor zeer hoog gewaardeerde AI-bedrijven die de hoge kosten van modelontwikkeling moeten omzetten in duurzame winst.

Dat is een interpretatie van zijn opmerking, geen bewijs dat Anthropic, OpenAI of een ander bedrijf vanuit dat motief handelde. Yakovenko noemde geen bedrijf, gaf geen financiële cijfers en legde geen verband tussen het conflict en Solana of SOL. 3541

Waar Yakovenko kritiek op had

‘Mcap’ is de Engelse afkorting voor market capitalization, oftewel beurswaarde. In deze context wees Yakovenko vermoedelijk op een spanning die critici vaker zien in voorstellen voor sectorbrede terughoudendheid: een regel die iedereen vertraagt, is mogelijk makkelijker op te vangen voor goed gefinancierde, gevestigde AI-labs dan voor kleinere uitdagers.

Zijn kennelijke vervolgkritiek dreef de spot met het idee dat een kleine groep AI-leiders gezamenlijk zou bepalen hoe snel het hele vakgebied mag vooruitgaan. De onderliggende zorg is dat een veiligheidskader kan overkomen als afstemming in het voordeel van zittende marktpartijen — of zelfs als reguleringscapture — wanneer de bedrijven die van beperkingen profiteren ook mee bepalen hoe die beperkingen eruitzien.

Die kritiek is niet hetzelfde als een bewezen verklaring voor de intenties van Dario Amodei. De beschikbare berichtgeving onderbouwt dat Yakovenko vraagtekens zette bij de motieven, maar toont niet aan dat winstgevendheid, waarderingsbeheer, infrastructuurkosten of beursgangambities Anthropic tot de oproep tot een gematigder tempo brachten. 3543

Wat ‘het frontier-tempo bewaken’ precies inhoudt

In zijn essay van 12 september, We Must Pace the Frontier, pleitte Anthropic-topman Dario Amodei ervoor de snelheid waarmee AI-capaciteiten verbeteren te verlagen, zodat veiligheids-, alignment- en externe evaluatiewerkzaamheden kunnen bijblijven. Met alignment wordt bedoeld: zorgen dat een AI-systeem handelt in lijn met menselijke bedoelingen en veiligheidsgrenzen. Hij benadrukte dat dit niet betekent dat technische vooruitgang of het trainen van modellen volledig moet stoppen. 7

Het voorstel kent drie steeds bredere stappen:

1. Ingebedde externe evaluatoren. Frontier-AI-labs zouden onafhankelijke evaluatoren doorlopend toegang geven die vergelijkbaar is met die van werknemers. Zij kunnen veiligheidsmaatregelen onderzoeken, alignment tijdens de training beoordelen en incidenten rapporteren. Anthropic zei deze stap zelfstandig te nemen. 716
2. Afstemming tussen democratische landen. Frontierlabs en overheden in democratische staten zouden toewerken naar gezamenlijke veiligheidsnormen en limieten voor het ontwikkelingstempo. 7
3. Beperkte internationale afspraken. Overheden zouden smallere afspraken nastreven met andere staten, mogelijk ook China en autoritaire regeringen, waar controleerbaarheid en wederzijdse terughoudendheid haalbaar zijn. 78

Het onderscheid is belangrijk: de eerste stap is een concrete toezegging op bedrijfsniveau. De tweede en derde stap zijn afhankelijk van coördinatie tussen bedrijven en overheden en zijn dus voorstellen, geen al geldende verplichtingen. 9

Waarom critici spreken van een mogelijk kartel

De controverse draait niet alleen om de vraag of bedrijven modellen grondiger moeten testen. Cruciaal is wie het tempo vaststelt, welke uitkomst een vertraging uitlokt en of gezamenlijke normen concurrenten beperken.

David Sacks stelde dat Anthropic en OpenAI geen toestemming nodig hebben om hun eigen ontwikkeling te vertragen als zij denken dat hun systemen ernstige risico’s opleveren. Zijn bezwaar richtte zich op het gebruiken van veiligheidszorgen om een breder regulerend of mededingingsrechtelijk gesteund kader te krijgen dat ook concurrenten kan binden. Sacks waarschuwde voor een zittend ‘duopolie’ dat regels inzet om zijn positie te beschermen. 5052

Dit is de sterkste variant van de zorg achter Yakovenko’s opmerking: vrijwillige veiligheidsbeloften zijn één ding; gecoördineerde beperkingen voor een hele sector kunnen niet alleen de veiligheid, maar ook de concurrentie veranderen.

Wat Altman en Musk steunden

Sam Altman reageerde dat OpenAI het eens was met de noodzaak om het frontier-tempo te bewaken. Hij noemde onafhankelijke evaluatoren met werknemerachtige toegang ‘a great idea’ en zei dat OpenAI hetzelfde zou doen. Elon Musk reageerde beknopter: ‘Dario is right.’ 1821

Geen van beide reacties beantwoordde op zichzelf de moeilijkere vragen rond internationale afstemming, afdwingbare tempolimieten of een gezamenlijk sectorkader. Hun publieke steun sloot het duidelijkst aan bij het idee van ingebedde evaluatoren. 1820

De nog onbeantwoorde uitvoeringsvragen

Permanent extern toezicht krijgt pas betekenis als de spelregels helder zijn. In het beschikbare materiaal bleven belangrijke details open:

• Onafhankelijkheid: Wie kiest en betaalt de evaluatoren, en wat maakt hen onafhankelijk van het lab dat zij onderzoeken?
• Toegang: Welke systemen, trainingsprocessen, incidentrapporten, modelgewichten, data en interne hulpmiddelen mogen evaluatoren inspecteren?
• Publicatierecht: Mogen evaluatoren ongunstige bevindingen publiceren zonder toestemming van het bedrijf?
• Beslisdrempels: Welke testuitkomst of welk risiconiveau verplicht een lab om training, inzet of vrijgave uit te stellen?
• Handhaving: Wie ziet erop toe dat een bedrijf gevolg geeft aan de bevindingen van een evaluator?
• Concurrentie en veiligheid: Hoe kunnen bedrijven veiligheidsnormen afstemmen zonder commercieel gevoelige informatie uit te wisselen of mededingingsproblemen te creëren?
• Internationale controle: Wat zou een afspraak met China of andere regeringen geloofwaardig en controleerbaar maken?

Deze hiaten verklaren waarom critici het risico zien van vage regels onder controle van gevestigde spelers, terwijl voorstanders het zien als een noodzakelijke poging om veiligheidsclaims te vertalen naar permanent extern toezicht. 1053

Politieke inzet: gematigder tempo of harde pauze

Het publieke conflict liet ook uiteenlopende visies zien op de gewenste veiligheidsreactie. Senator Bernie Sanders zag de overeenstemming tussen Amodei, Altman en Musk als steun voor een zwaardere ingreep: een AI-pauze en een verbod op superintelligentie. 48

Amodei’s eigen voorstel was beperkter dan een absoluut verbod: hij pleitte voor een evenwichtig tempo dat tijd laat voor alignment en verificatie. 7 Sacks stelde daartegenover dat bedrijven die risico’s vrezen zichzelf vrijwillig moeten afremmen, in plaats van een gecoördineerd kader te zoeken dat ook voor anderen geldt. 52

De onopgeloste beleidsafweging is eenvoudig te formuleren, maar moeilijk uit te voeren. Het vertragen van Amerikaanse frontierlabs kan zorgen oproepen over hun concurrentiepositie, vooral tegenover China. Tegelijk kan een ongeremde race ertoe leiden dat veiligheidsevaluatie en toezicht achterblijven bij de groei van AI-capaciteiten. Amodei’s raamwerk probeert beide spanningen te ondervangen met gefaseerd toezicht en latere internationale afstemming, maar voor de meest ingrijpende onderdelen bestaat nog geen afgesproken handhavingsmechanisme. 74

Conclusie

Yakovenko’s zin was geen financiële analyse, maar een provocatie over belangen. Hij presenteerde de roep om AI te vertragen als mogelijk verenigbaar met de commerciële belangen van machtige labs die hoge waarderingen willen verdedigen en uiteindelijk winstgevendheid willen aantonen. Het beschikbare openbare dossier onderbouwt die beschuldiging niet en toont evenmin aan dat plannen voor een beursgang de oorzaak van het voorstel zijn.

Wat wel concreet is: Anthropic heeft ingebedde externe evaluatoren toegezegd, OpenAI heeft die aanpak publiekelijk gesteund, en het bredere plan voor gecoördineerde veiligheidslimieten blijft omstreden. De kernvraag is niet óf frontier-AI strenger moet worden geëvalueerd, maar of de bedrijven die het dichtst bij die technologische grens opereren mede de regels mogen bepalen die vastleggen wie daar kan concurreren. 71850