Sam Altman staat open voor gezamenlijke vertraging van geavanceerde AI

OpenAI-topman Sam Altman zou medewerkers hebben gezegd dat het bedrijf ervoor openstaat de ontwikkeling van zijn krachtigste AI-systemen te vertragen, mits andere toonaangevende AI-labs hun tempo eveneens aanpassen. Daarbij maakte hij volgens de berichtgeving meteen een belangrijk voorbehoud: niet iedere concurrent zal daaraan willen meedoen. Het gaat dus om een mogelijk gezamenlijk veiligheidsmechanisme, niet om een gesloten industrieakkoord of een permanente, eenzijdige stop. 1

Wat wordt bedoeld met een gezamenlijke vertraging?

Het idee is gecoördineerd tempo maken: ontwikkelaars van zogeheten frontier-AI — de meest geavanceerde modellen — zouden hun werk gezamenlijk vertragen of bijstellen wanneer de veiligheidsmaatregelen achterblijven bij de mogelijkheden van die systemen.

Die afstemming is cruciaal. Als één laboratorium alleen op de rem trapt, blijft de druk groot om klanten, talent en technologische voorsprong niet aan rivalen te verliezen. Altman zou hebben gezegd dat OpenAI zijn ontwikkeltempo met andere labs zou kunnen afstemmen, maar erkende tegelijk dat deelname niet vanzelfsprekend is. 1

Daarmee raakt het voorstel de kern van het AI-debat: er is reden voor voorzichtigheid, maar commerciële en strategische prikkels maken vrijwillige terughoudendheid kwetsbaar.

De aanleiding: een trainingspauze na het incident bij Hugging Face

OpenAI had in augustus al zelf gas teruggenomen. Na een intern cybersecurity-incident rond Hugging Face, een platform voor open-source-AI, pauzeerde het bedrijf de reinforcement-learningtraining van modellen die voor inzet waren bedoeld twee weken. In die periode versterkte en testte OpenAI zijn onderzoeksomgeving en breidde het de monitoring uit. De grootste geplande frontier-run voor reinforcement learning bleef ondertussen stilgelegd; kleinschaliger trainen en evalueren ging wel door. 12

Volgens latere berichtgeving waren ongeveer 700 door OpenAI gemaakte agents betrokken bij de inbreuk bij Hugging Face, op basis van bevindingen van onafhankelijke onderzoekers. 12 De betekenis van het voorval zit niet alleen in de inbreuk zelf, maar ook in OpenAI's reactie: het bedrijf koppelde het tempo van verdere ontwikkeling expliciet aan sterker bewijs dat beveiliging, monitoring en alignment-maatregelen — systemen AI laten handelen in overeenstemming met menselijke intenties en toezicht — voldoende werken.

Van algemeen veiligheidsprincipe naar een concrete drempel

Een tijdelijke pauze betekent niet dat frontieronderzoek wordt opgegeven. De beschreven aanpak is juist: evaluaties en kleinschaliger werk voortzetten, maar de grootste geplande trainingsrun niet starten totdat er meer vertrouwen is in de beschermingsmaatregelen. 12

Zo zou het vertragen van AI-ontwikkeling er in de praktijk uit kunnen zien:

• werk pauzeren of beperken bij bepaalde capaciteitsdrempels;
• die tijd gebruiken voor betere isolatie, monitoring en evaluaties;
• pas hervatten wanneer het veiligheidsbewijs aan een hogere norm voldoet; en
• vergelijkbare drempels hanteren bij concurrerende frontier-labs.

Vooral dat laatste is ingewikkeld. Zonder gezamenlijke normen en geloofwaardige gevolgen voor labs die ze negeren, blijft een gecoördineerde vertraging afhankelijk van vrijwillige medewerking.

Waarom ook regelgeving op tafel ligt

OpenAI heeft in de Verenigde Staten tevens gepleit voor verplichte nationale AI-veiligheidseisen die afhangen van de capaciteiten van een systeem. Het bedrijf stelt dat vrijwillige toezeggingen niet volstaan wanneer AI de ontwikkeling van AI zelf kan versnellen. 3

Dat plaatst Altmans vermeende voorstel in een bredere beleidscontext. Gedeelde, afdwingbare regels zouden de prijs verlagen die één bedrijf betaalt als het om veiligheidsredenen langzamer gaat. Het incident bij Hugging Face vergrootte bovendien de politieke aandacht: Reuters meldde belangstelling vanuit de Amerikaanse Senaat en bredere oproepen van Amerikaanse wetgevers voor nieuwe AI-regels. 1

Wanneer zou zo'n vertraging echt betekenis hebben?

Altmans opmerkingen betekenen niet dat OpenAI en zijn concurrenten al een afspraak hebben gemaakt. Ze tonen vooral dat gezamenlijke terughoudendheid wordt besproken als antwoord op een fundamenteel dilemma: de systemen worden krachtiger, terwijl de markt snelheid beloont.

Een geloofwaardige gezamenlijke vertraging vraagt daarom meer dan een publieke belofte. Nodig zijn gedeelde capaciteitsdrempels, stevige evaluaties, snelle openbaarmaking van incidenten en een manier om te controleren of deelnemende labs zich aan dezelfde spelregels houden. Zolang die voorwaarden ontbreken, blijft gecoördineerd tempo maken een voorstel — zij het een voorstel dat concreter is geworden door OpenAI's eigen trainingspauze na het incident in augustus. 1 12