VN-mensenrechtenchef: vrijwillige AI-beloften schieten tekort

De ontwikkeling van steeds krachtigere AI kan niet worden overgelaten aan vrijwillige toezeggingen van bedrijven. Dat schrijft Volker Türk, de Hoge Commissaris voor de Mensenrechten van de Verenigde Naties, in een open brief. Zelfregulering door bedrijven die zogeheten frontier-AI ontwikkelen — systemen aan de uiterste technologische grens — is volgens hem „bij lange na niet voldoende”. 7

Türk wil dat landen en AI-bedrijven met spoed samenwerken aan afdwingbare waarborgen die aansluiten op het internationale mensenrechtenrecht. Niet een handvol technologiebedrijven, maar publieke, internationaal afgestemde regels moeten bepalen welke risico’s aanvaardbaar zijn. 79

Wat Türk van overheden en bedrijven vraagt

De VN-functionaris zet in op regels die controleerbaar en handhaafbaar zijn, in plaats van veiligheidsclaims die bedrijven zelf formuleren.

• Bindend, op mensenrechten gebaseerd toezicht. Landen moeten regelgeving aanscherpen en internationaal samenwerken, zodat verschillen tussen nationale regels geen uitweg worden voor bedrijven. 7
• Doorlopende mensenrechtentoetsing. Ontwikkelaars moeten tijdens de volledige levenscyclus van een AI-systeem werkelijke en mogelijke gevolgen voor mensenrechten in kaart brengen en aanpakken. De VN omschrijft dit als een continu proces: risico’s vaststellen, maatregelen nemen, de effectiviteit volgen en daarover communiceren.
• Onafhankelijke technische beoordeling. Waarborgen moeten extern te controleren zijn; uitsluitend afgaan op de beloften van de makers is niet genoeg. 7
• Snelle multilaterale actie. De regels en veiligheidsgaranties voor frontier-AI moeten volgens Türk gezamenlijk worden ontwikkeld door landen en internationale instellingen. 79

Nieuwe onrust binnen de AI-sector

De brief verschijnt terwijl binnen de AI-industrie opnieuw wordt gedebatteerd over de snelheid waarmee de grote laboratoria systemen ontwikkelen die autonomer en mogelijk zelfverbeterend worden.

Jacob Coxon, een onderzoeker die zowel bij OpenAI als Anthropic werkte, vertrok in september 2026 bij Anthropic. Hij stelde dat de bedrijven richting zelfverbeterende superintelligentie racen en daarbij „met ons leven gokken”. 68 Coxon zei ook dat sommige mensen die aan AI werken oprecht denken dat de technologie vóór het einde van dit decennium „ons allemaal kan doden”. Dat is een waarschuwing van Coxon en andere bezorgde ontwikkelaars, geen vaststaande voorspelling. 6

Tegelijkertijd riep het medewerkersinitiatief Pacing the Frontier de Amerikaanse overheid op een internationale inspanning te steunen om technische en bestuurlijke middelen te ontwikkelen waarmee de ontwikkeling van frontier-AI bewust kan worden afgeremd als die sneller gaat dan mensen veilig kunnen overzien. De initiatiefpagina noemt 1.386 ondertekenaars uit bedrijven die frontier-AI ontwikkelen. 15

Die steun voor het bewust „doseren” van de ontwikkelsnelheid is relevant, maar lost de kwestie van aansprakelijkheid niet op. Volgens Türk kunnen vrijwillige afspraken — ook wanneer medewerkers of bedrijfsleiders ze steunen — geen vervanging zijn voor afdwingbare publieke waarborgen. 7

Niet alleen een risico voor de verre toekomst

Türk richt zich niet uitsluitend op een hypothetisch scenario waarin AI de menselijke controle ontglipt. Hij stelt dat vrijwillige zelfregulering tekortschiet om zowel bestaande schade aan te pakken als te voorkomen dat geavanceerde autonome modellen menselijke veiligheidsmaatregelen omzeilen. 7

De beschikbare berichtgeving bevat geen uitputtende lijst van concrete huidige schadegevallen die Türk in zijn brief noemt. Het zou daarom onjuist zijn om specifieke categorieën schade aan die brief toe te schrijven. Wel is zijn uitgangspunt helder: mensenrechten moeten centraal staan bij het ontwerpen, inzetten, beoordelen en besturen van AI. 7

Het gat dat de VN wil dichten

Er is een zekere overlap tussen sommige stemmen uit de AI-sector en de oproep van de VN: beide erkennen dat de ontwikkeling van steeds capabelere systemen mogelijk bewust moet worden getemporiseerd en onafhankelijk moet worden getoetst. 715

Maar de cruciale kloof is politiek. Verklaringen vanuit de industrie kunnen samenwerking stimuleren, maar leggen geen gezamenlijke drempels vast. Ze kunnen geen openheid afdwingen, geen onafhankelijke beoordeling verplichten en bieden geen automatische remedies of aansprakelijkheid wanneer schade ontstaat.

Daarom roept Türk regeringen op die kloof te dichten met snelle, multilaterale regelgeving onder internationaal mensenrechtenrecht. Voor beleidsmakers en organisaties die AI inkopen betekent dat in de praktijk: vraag niet alleen om veiligheidsbeloften, maar ook om aantoonbare, doorlopende risicoanalyses voor mensenrechten, externe toetsing en duidelijke verantwoordingsplicht. 79