Een gezamenlijke AI-toezichthouder is nog geen feit

De kern van de berichtgeving is helder: Anthropic, OpenAI en Google DeepMind lijken naar elkaar toe te groeien op één belangrijk punt. De krachtigste AI-modellen zouden vóór publieke release niet alleen door hun maker, maar ook door externe partijen moeten worden getest. Dat betekent nog niet dat de bedrijven samen een nieuwe toezichthouder hebben opgericht, of het eens zijn over bindende tests, inzage in systemen, releaseverboden of sancties. 811

Dat onderscheid is essentieel. Instemmen met evaluaties is iets anders dan een instelling oprichten die regels kan afdwingen.

Wat er volgens de berichtgeving wordt besproken

Sinds juli 2026 zouden de drie bedrijven op werkniveau spreken over een standaardenorgaan voor zogeheten frontier AI: de meest geavanceerde modellen. Het doel lijkt een gezamenlijke aanpak voor het beoordelen van gevaarlijke capaciteiten vóór inzet, met nadruk op cyberaanvallen, biologisch misbruik, misleiding en andere vormen van grootschalig misbruik. 811

De meest uitgewerkte publieke blauwdruk komt van Google DeepMind-topman Demis Hassabis. Hij pleit voor een door de VS geleid Frontier AI Standards Body, naar voorbeeld van FINRA, de zelfregulerende organisatie van de Amerikaanse financiële sector. In zijn voorstel wordt het orgaan betaald door de industrie, maar staat het onder federaal toezicht en test het frontier-modellen vóór release. Eerst zouden bedrijven vrijwillig modellen indienen; pas later zou toetsing mogelijk verplicht worden, als de methode zich heeft bewezen. 9

Wat publiekelijk nog ontbreekt, zijn juist de details die bepalen of zo'n systeem werkelijk onafhankelijk en effectief kan zijn:

• welke modellen ter beoordeling moeten worden aangeboden;
• welke technische tests verplicht zijn;
• hoeveel toegang externe beoordelaars krijgen;
• welke uitkomst een release blokkeert, uitstelt of aan voorwaarden bindt;
• wie het orgaan financiert en bestuurt;
• hoe beoordelaars onafhankelijk blijven van de bedrijven die zij onderzoeken; en
• welk overheidstoezicht en welke juridische waarborgen gelden.

Zolang die vragen openstaan, is het te sterk om te spreken van een operationele gezamenlijke toezichthouder.

Waarover de bedrijven het wél lijken eens te zijn

De duidelijkste overeenkomst is onafhankelijke toetsing vóór release. Axios meldde in juli dat Dario Amodei, Sam Altman en Demis Hassabis in grote lijnen voorstander zijn van externe controle van frontier-modellen voordat die het publiek bereiken, in plaats van vooral te vertrouwen op veiligheidsrapportages van de bedrijven zelf. 8

Dat is belangrijk omdat AI-veiligheid niet alleen afhangt van de vraag óf een ontwikkelaar tests uitvoert. Ook telt mee of onafhankelijke deskundigen de uitkomsten kunnen herhalen, betwisten of aanvullen. Een geloofwaardig stelsel vereist dus duidelijke testmethoden, betrouwbare toegang tot systemen en vooraf vastgelegde gevolgen wanneer een model boven een risicodrempel uitkomt.

De drie bedrijven presenteren de kwestie bovendien als internationaal. Eenzijdige beperkingen in de VS zijn politiek lastig als ontwikkelaars in andere landen niet aan vergelijkbare regels zijn gebonden. Hassabis' plan is nadrukkelijk Amerikaans geleid; Amodei stelt dat nationale waarborgen alleen niet volstaan voor systemen die wereldwijd kunnen worden uitgerold. 91

Vrijwillige afspraken of toezicht met tanden?

Achter de gedeelde taal over veiligheid zit een fundamenteel verschil: gaat het vooral om vrijwillige sectorafspraken, een systeem met steun van de overheid, of een toezichthouder met echte bevoegdheden?

DeepMind schetst een model dat door de sector wordt gefinancierd en federaal wordt overzien. Het begint vrijwillig, maar beoordeling zou op termijn een voorwaarde voor uitrol kunnen worden. 9

Amodei legt de nadruk op onafhankelijke beoordelaars die binnen frontier-labs werken en toegang krijgen vergelijkbaar met die van werknemers. Daarnaast wil hij dat bedrijven in democratische landen met overheidssteun gezamenlijke veiligheidsnormen ontwikkelen. 12

Verslaggeving over de werkgroep omschrijft OpenAI als ontvankelijk voor actie vanuit de sector, in plaats van te wachten tot de overheid een volledig raamwerk heeft gebouwd. Sam Altman sprak ook publiekelijk steun uit voor onafhankelijke beoordelaars met toegang op werknemerniveau. 11

Die verschillen zijn meer dan nuance. Vrijwillige afspraken kunnen snel tot gedeelde technische werkwijzen leiden. Maar zonder onafhankelijk bestuur en publieke bevoegdheid is het moeilijker om toegang af te dwingen, belangenconflicten te voorkomen, geschillen te beslechten of een bedrijf daadwerkelijk van een release af te houden.

Het Frontier Model Forum is geen nieuwe regelgever

Het Frontier Model Forum bestaat al als samenwerkingsverband van grote AI-bedrijven. Volgens zijn eigen doelstelling wil het veiligheidsonderzoek bevorderen, evaluatiemethoden en best practices ontwikkelen en informatie delen met beleidsmakers en de sector.

Dat maakt het forum een logische plek voor overleg, maar het bewijst niet dat er een nieuw onafhankelijk orgaan is gelanceerd of dat grensoverschrijdende audits bindend zijn. De beslissende vraag is of bedrijven alleen richtlijnen gaan maken, of een instelling creëren die modellen onafhankelijk kan beoordelen en betekenisvolle voorwaarden aan releases kan verbinden.

Waarom Amodei het debat verscherpte

Op 12 september publiceerde Anthropic-CEO Dario Amodei het essay We Must Pace the Frontier, van ongeveer 3.800 woorden. Daarin betoogt hij dat de verbetering van AI-capaciteiten moet vertragen, zodat veiligheidspraktijken kunnen bijbenen. 52

Amodei waarschuwde dat een krachtigere zwerm geautomatiseerde AI-agenten binnen zes tot twaalf maanden mogelijk het internet zou kunnen overnemen. Dat is een voorspelling en risicowaarschuwing, geen vastgesteld technisch resultaat. 513

Zijn voorstel bestaat uit drie onderdelen:

1. Onafhankelijke beoordelaars in frontier-labs plaatsen, met toegang vergelijkbaar met die van werknemers, om systemen te testen, tekortkomingen te vinden en naleving te beoordelen. 12
2. Gezamenlijke veiligheidsnormen en grenzen afspreken tussen AI-bedrijven in democratische landen, met overheidssteun waar nodig. 216
3. Bredere internationale coördinatie nastreven, ook met autoritaire regeringen, omdat geavanceerde modellen en de bijbehorende risico's wereldwijd inzetbaar zijn. 115

Anthropic zegt externe beoordelaars permanente toegang op werknemerniveau te willen geven. Dat gaat verder dan een eenmalige externe test. Hoe geloofwaardig die belofte in de praktijk wordt, hangt af van wie de beoordelaars kiest, wat zij mogen inzien, of zij bevindingen mogen publiceren en wat er gebeurt bij een onaanvaardbaar risico. 122

De test voor geloofwaardige verantwoording

De voornaamste kritiek is eenvoudig: de bedrijven die het hardst wedijveren om de krachtigste systemen te bouwen, dreigen ook mee te schrijven aan de regels, de uitvoering en de interpretatie ervan.

Een veiligheidsorgaan zou geloofwaardiger zijn met onafhankelijk technisch leiderschap, transparante evaluatiemethoden, bescherming tegen bedrijfsinvloed, betekenisvol overheidstoezicht en duidelijke bevoegdheden na een mislukte beoordeling. Zonder zulke waarborgen kunnen gezamenlijke standaarden nuttig zijn, maar blijven ze iets anders dan onafhankelijke verantwoording.

De AI Safety Index voor zomer 2026 van het Future of Life Institute laat zien waarom die scepsis blijft. Anthropic kreeg een C+, OpenAI een C en Google DeepMind een C; geen enkel beoordeeld lab kwam boven een C+ uit. 17

De Amerikaanse senator Bernie Sanders vond vertraging onvoldoende en riep op tot een pauze in de ontwikkeling van geavanceerde AI en een verbod op kunstmatige superintelligentie. Dat gaat veel verder dan de voorstellen van de labs, maar onderstreept het verschil tussen vrijwillig afremmen en afdwingbare grenzen.

Waar nu op te letten

Echte vooruitgang blijkt niet uit een volgende beginselverklaring, maar uit concrete institutionele keuzes:

• een openbaar bestuursstatuut;
• benoemde, onafhankelijke beoordelaars;
• gestandaardiseerde tests voor capaciteiten en misbruik;
• regels voor audittoegang en openbaarmaking;
• releasedrempels en herstelverplichtingen; en
• een helder antwoord op de vraag of een veiligheidsbevinding een release kan vertragen of voorkomen.

Voorlopig is de voorzichtigste conclusie: grote AI-labs bespreken gezamenlijke veiligheidsinfrastructuur en steunen steeds nadrukkelijker externe tests. Of dat leidt tot een onafhankelijke, afdwingbare standaardeninstelling of vooral tot een vrijwillig sectoraal overleg, is nog onbeslist. 8911