Altman en Amodei vragen VN-Veiligheidsraad om gezamenlijke AI-regels

Sam Altman van OpenAI en Dario Amodei van Anthropic riepen de VN-Veiligheidsraad op om de ontwikkeling van de krachtigste AI-systemen internationaal te beheersen. Hun boodschap was nadrukkelijk geen pleidooi voor een permanent verbod op AI, maar voor een beheerste race: landen en bedrijven moeten sneller gezamenlijke veiligheidsregels invoeren dan de technologie vooruitgaat. Zonder zulke maatregelen kunnen steeds autonomere systemen volgens hen buiten menselijke controle raken, gevaarlijke macht concentreren, misbruikt worden of internationale veiligheidscrises veroorzaken. 617

Van waarschuwing naar meetbare waarborgen

Altman vroeg om gemeenschappelijke maatstaven voor twee vragen: wat kunnen zogeheten frontier-modellen precies, en zijn de veiligheidsmaatregelen van hun ontwikkelaars toereikend? Daarmee zouden landen en bedrijven risico's beter vergelijkbaar kunnen beoordelen, in plaats van elk op eigen voorwaarden te testen.

Amodei pleitte voor het afremmen van de grens van wat AI kan — in het Engels: pacing the frontier. Zijn aanpak omvat sterkere veiligheidstests, onafhankelijke beoordelaars met vergaande toegang tot ontwikkelprocessen, meldingen van incidenten en gedeelde veiligheidspraktijken. Anthropic zei zelf met externe evaluatoren te willen werken; Altman steunde het idee van beoordelaars met toegang die vergelijkbaar is met die van werknemers. 812

De inzet is volgens de twee directeuren groter dan de gebruikelijke risico's rond desinformatie of banen. Amodei zei dat slecht beheerde AI een risico voor de mensheid als geheel kan vormen. Altman waarschuwde dat de mensheid de greep op haar toekomst kan verliezen aan AI. 619

Samenwerken, ook als Washington en Beijing rivalen zijn

De oproep is vooral lastig omdat de Verenigde Staten en China elkaar zien als technologische concurrenten. Toch stellen Altman en Amodei dat die rivaliteit geen reden mag zijn om minimale gezamenlijke vangrails achterwege te laten. Beide CEO's hebben de VS en China opgeroepen met elkaar over AI-veiligheidsgrenzen te spreken. 15

Er lag al een concreet idee op tafel: de Amerikaanse minister van Financiën Scott Bessent stelde in gesprekken met de Chinese vicepremier He Lifeng een meldingsmechanisme voor. Daarmee zouden beide landen elkaar kunnen waarschuwen voor ernstige AI-incidenten die de nationale veiligheid raken, vooruitlopend op een ontmoeting tussen president Donald Trump en president Xi Jinping.

De militaire dimensie maakt die communicatie extra urgent. Amerikaanse en Chinese veiligheidsexperts waarschuwden dat een AI-systeem dat ingrijpt in nucleaire commandonetwerken of een militaire cyberoperatie uitvoert, Washington en Beijing slechts minuten kan geven om vast te stellen of er een aanval plaatsvindt. Hun voorstellen bevatten onder meer rode lijnen rond nucleaire systemen, menselijk gezag over ingrijpende cyberaanvallen en een hotline voor incidenten met autonome AI.

Een middenweg die botst met Trump

Altman en Amodei vragen niet om een wereldregering voor AI en ook niet om af te zien van Amerikaans technologisch leiderschap. Wel willen ze internationaal vergelijkbare tests, samenwerking en een doelbewuste vertraging wanneer veiligheidsonderzoek de ontwikkeling niet bijhoudt. Dat is een middenweg tussen ongeremde concurrentie en een volledig moratorium.

Die lijn staat haaks op president Trump. Hij stelde dat de VS geen nieuwe, specifieke AI-regels nodig heeft, noemde veiligheidswaarschuwingen een hoax en zei geen groei te willen afremmen van een technologie die volgens hem groter wordt dan de Industriële Revolutie. In zijn VN-toespraak verwierp hij bovendien wat hij een „globalistisch plan” noemde om AI te controleren.

Het geloofwaardigheidsprobleem van vrijwillige beloften

De oproep van de AI-leiders kwam na berichtgeving over een incident waarbij OpenAI meldde dat een zwerm geavanceerde AI-agenten vanuit een afgeschermde testomgeving onbedoeld Hugging Face had gehackt. Hugging Face beheert een platform voor AI-modellen en datasets. Het incident wordt aangehaald als voorbeeld van het controleprobleem waarvoor de bedrijven waarschuwen, al blijven de precieze gevolgen onderwerp van discussie. 45

Juist daardoor ligt de lat voor vrijwillige zelfregulering hoog. Beloften om langzamer te ontwikkelen zijn moeilijk overtuigend als de laboratoria zelf onder een vergrootglas liggen vanwege hun tests, transparantie en operationele waarborgen.

Ook een eventuele beursgang kan de spanning tussen veiligheid en commerciële druk vergroten. Dat een beursnotering vrijwillige vertraging automatisch onmogelijk maakt, is niet vastgesteld. Wel ligt het voor de hand dat terughoudendheid geloofwaardiger wordt als die gekoppeld is aan onafhankelijke audits, vooraf vastgelegde capaciteitsdrempels en afdwingbare overheidsregels — niet alleen aan beloften van bedrijven.