Waarom Singapore en 19 andere landen gezamenlijk toezicht op geavanceerde AI willen

De krachtigste AI-modellen ontwikkelen zich snel, terwijl hun veiligheidsrisico’s niet bij landsgrenzen ophouden. Daarom lanceerden de Finse president Alexander Stubb en de Noorse premier Jonas Gahr Støre op 21 september 2026, tijdens de week van de Algemene Vergadering van de Verenigde Naties in New York, de verklaring A Call for Control of Frontier AI Models. Het doel: mensen aan het stuur houden zonder de mogelijke voordelen van AI uit het oog te verliezen.13133

Waarom Singapore meedoet

Volgens de Singaporese premier Lawrence Wong biedt AI grote kansen, maar moet de technologie altijd onder menselijk toezicht en menselijke controle blijven. Singapore was het enige Zuidoost-Aziatische land dat de oproep bij de lancering steunde.617

De verklaring erkent dat AI levens kan verbeteren, wetenschappelijk onderzoek kan vooruithelpen en economieën kan versterken. Tegelijk waarschuwen de ondertekenaars dat afzonderlijke landen de veiligheids- en beveiligingsrisico’s van de meest geavanceerde modellen mogelijk niet alleen kunnen beheersen. AI moet volgens hen onder menselijk toezicht blijven en in overeenstemming met het internationaal recht worden ontwikkeld en gebruikt.1331

Wat willen de ondertekenaars veranderen?

De oproep verdeelt het werk over drie groepen:

• AI-bedrijven moeten transparante veiligheidsprocedures opstellen, modellen verplicht testen vóór ingebruikname en onafhankelijke beoordelaars voldoende toegang geven om risico’s te onderzoeken.30
• Overheden en regionale organisaties moeten gezamenlijke normen afstemmen en ernstige veiligheidsincidenten beter met elkaar delen. De voorstellen vragen ook om bredere toegang tot wetenschappelijke deskundigheid en betrouwbare beoordelingen.2530
• VN-lidstaten worden opgeroepen voort te bouwen op bestaande internationale afspraken en de oprichting van een instelling te onderzoeken die normen kan vaststellen, naleving kan helpen verifiëren en landen bijeen kan brengen wanneer AI-modellen bepaalde vermogensdrempels overschrijden.2936

Zo’n internationale instelling is nog niet opgericht. De nadruk ligt op testen, controle en samenwerking; de aangehaalde voorstellen eisen niet expliciet dat de ontwikkeling van geavanceerde AI wordt stilgelegd.293036

Wie stonden er bij de lancering achter?

Naast Finland en Noorwegen noemt het Finse presidentschap als aanvankelijke ondersteuners Denemarken, IJsland, Estland, Letland, Nederland, Ierland, Duitsland, Spanje, Moldavië, Turkije, de Verenigde Arabische Emiraten, Bahrein, Kazachstan, Singapore, Kenia, Zuid-Afrika, Canada en Australië. Ook de Europese Commissie steunde de oproep. Volgens het presidentschap sloten zich later meer leiders aan: de oorspronkelijke lijst is dus geen definitieve deelnemerslijst.33

De Verenigde Staten en China deden aanvankelijk niet mee. Stubb sprak de hoop uit dat meer partijen zich aansluiten, maar uit de afwezigheid van die twee landen valt niet af te leiden waarom hun regeringen niet deelnamen.9 VN-secretaris-generaal António Guterres verwelkomde het initiatief en steunde het onderzoek naar internationale normen, verificatie en overleg tussen landen bij het overschrijden van vermogensdrempels.36

Ook bedrijven besteedden die maand aandacht aan AI-veiligheid: Microsoft publiceerde uitgangspunten voor zijn geavanceerde modellen en Anthropic kondigde met Accenture een samenwerking aan voor onafhankelijke beoordelingen. Dat biedt context, maar bewijst niet dat deze stappen de regeringen tot hun oproep hebben aangezet.3940