Wie controleert of AI veilig is? Zo kan een wereldwijde aanpak werken

Een keurmerk alleen bewijst niet dat een AI-systeem veilig is. Daarvoor moet een onafhankelijke partij kunnen nagaan wat is getest, onder welke omstandigheden en wat er gebeurt als het systeem faalt. Een werkbare wereldwijde aanpak zou daarom drie zaken combineren: gemeenschappelijke normen, onafhankelijke toetsing en nationale toezichthouders met bevoegdheden om in te grijpen.

De Singaporese minister Josephine Teo vergelijkt de opgave met de luchtvaart. Die werd niet betrouwbaar door één veiligheidscontrole, maar door meerdere lagen van voorschriften en waarborgen. Volgens Teo moet AI, nu het gebruik groeit, eveneens aan vertrouwen bouwen. 36

Begin met afspraken die landen kunnen controleren

De internationale luchtvaartregels ontstonden stapsgewijs. Nationale wetten en afspraken tussen landen gingen vooraf aan het Verdrag van Parijs van 1919. Het Verdrag van Chicago uit 1944 schiep een nieuw kader; in 1947 kwam de Internationale Burgerluchtvaartorganisatie ICAO tot stand. 313935 Voor AI is de les niet dat er een luchtvaartregelboek moet worden gekopieerd, maar dat landen met uitvoerbare afspraken kunnen beginnen en die later kunnen aanscherpen.

Een internationale AI-organisatie zou minimumnormen kunnen ontwikkelen, onafhankelijke beoordelaars kunnen accrediteren en gegevens over incidenten kunnen vergelijken. Nationale toezichthouders zouden systemen moeten kunnen inspecteren, aanpassingen eisen, de inzet beperken en sancties opleggen. Een internationaal certificaat mag binnenlandse handhaving niet vervangen.

Een test is geen levenslange goedkeuring

Vooral bij systemen met grote risico’s moet veiligheid na ingebruikname worden gevolgd. Dat betekent testen vóór inzet, toezicht tijdens gebruik en een nieuwe beoordeling na ingrijpende wijzigingen. Er moeten ook procedures zijn om een update terug te draaien of een systeem buiten gebruik te stellen. Een goedkeuring hoort te gelden voor een bepaalde versie en toepassing, niet automatisch voor elk toekomstig gebruik.

Ontwikkelaars zouden voor zulke systemen een onderbouwd veiligheidsdossier moeten overleggen: wat kan het systeem doen, hoe is het getest, welke beschermingsmaatregelen zijn aangetoond, welke risico’s blijven over en hoe worden incidenten afgehandeld? Onafhankelijke beoordelaars hebben daarvoor beveiligde toegang nodig tot het relevante model, de gebruikte instellingen, documentatie en gegevens over ernstige fouten. Hun werkwijze moet controleerbaar zijn voor andere deskundigen, zonder persoonsgegevens, bedrijfsgeheimen of beveiligingsgevoelige informatie onnodig bloot te leggen.

Ontbreekt overtuigend bewijs, dan moet een toezichthouder verbeteringen kunnen eisen of de inzet beperken. Het doel is aantoonbare naleving van concrete eisen, niet een onmogelijke belofte dat er nooit schade ontstaat.

Ook de financiering vraagt aandacht. Grote ontwikkelaars zouden kunnen bijdragen aan een gezamenlijk of door een toezichthouder beheerd testfonds, in plaats van zelf volledig te bepalen wie hen beoordeelt. Onafhankelijk onderzoek naar ernstige fouten en bijna-incidenten moet herhaling helpen voorkomen. Beschermd melden kan openheid bevorderen, maar mag het verzwijgen van problemen of wangedrag niet vrijpleiten.

Singapore als testlocatie? Vertrouwen moet worden verdiend

Teo pleit ervoor beschermingsmaatregelen op te bouwen terwijl AI steeds breder wordt gebruikt. Singapore beschikt volgens berichtgeving over onder meer de testtoolkit AI Verify en een AI Safety Institute. 13 Het land zou gezamenlijke evaluaties of vertrouwelijke technische uitwisseling kunnen faciliteren binnen een netwerk van erkende testlaboratoria.

Dat maakt Singapore niet vanzelf een testlocatie die zowel de Verenigde Staten als China vertrouwen. Daarvoor zijn transparant bestuur, strikte toegangsregels, onafhankelijke mogelijkheden om besluiten aan te vechten en daadwerkelijke deelname van beide landen nodig. Een verspreid netwerk voorkomt bovendien dat alles van één locatie afhangt.

Wacht niet op overeenstemming over een AI-pauze

Over de gewenste snelheid van AI-ontwikkeling lopen de opvattingen uiteen. Volgens Reuters hebben Dario Amodei, Sam Altman en Elon Musk gepleit voor een gecoördineerde vertraging. Mark Zuckerberg gaf de voorkeur aan bescherming via de markt; Jensen Huang wees de noodzaak van nieuwe regels af. 4748 China verwierp oproepen om AI af te remmen. President Donald Trump zei dat hij bij zijn ontmoeting met Xi Jinping op 24 september geen vooruitgang verwachtte op het gebied van AI-waarborgen. Ook in de berichtgeving over die top waren de verwachtingen van een doorbraak laag. 585049

Landen hoeven dat bredere meningsverschil niet eerst op te lossen. Amerikaanse en Chinese veiligheidsexperts hebben volgens berichtgeving al beperkingen voorgesteld rond nucleaire systemen, menselijke controle over cyberaanvallen met grote gevolgen en een directe contactlijn voor incidenten met autonome AI. 20 Zulke afgebakende onderwerpen bieden een begin voor wederzijdse afspraken over noodcontacten, melding van ernstige incidenten en technische toetsing. Andere landen moeten daarbij kunnen meepraten en toegang krijgen tot testcapaciteit.

Wapenbeheersing biedt het principe van wederzijdse verplichtingen die nauw genoeg zijn omschreven om te controleren. Financieel toezicht biedt een tweede les: stel de zwaarste eisen waar een fout de grootste gevolgen kan hebben. Voor ontwikkelaars en gebruikers van AI-systemen met grote risico’s kunnen onafhankelijke beoordelingen, bestuurlijke verantwoordelijkheid, herstelplannen en snelle meldingen van ernstige veiligheidsproblemen, datalekken, hacks of modeldiefstal passend zijn. Kleine aanbieders van toepassingen met weinig risico kunnen toe met eenvoudiger documentatie en gedeelde testvoorzieningen. Een klein bedrijf mag echter geen uitzondering krijgen als zijn systeem gevaarlijk is.

Een verdrag en permanente internationale instelling vóór 2030 zouden een ambitieus beleidsdoel zijn, geen betrouwbare voorspelling. Een betere eerste graadmeter is of landen het eens worden over wat als ernstig incident telt, hoe onafhankelijk beoordelaars moeten zijn en wanneer toezichthouders optreden als het bewijs tekortschiet.