Waarom AI-onderzoekers toezicht willen op AI die AI ontwikkelt

De oproep om toezicht gaat niet alleen over de vraag hoe krachtig AI-modellen kunnen worden. De zorg is ook dat AI kan helpen bij het ontwikkelen van de volgende generatie AI. Als nieuwere systemen vervolgens weer meer onderzoekstaken overnemen, kan een zichzelf versterkende cyclus ontstaan. Onderzoekers van OpenAI, Anthropic, Meta en Microsoft willen dat beleidsmakers nagaan hoe ver die automatisering al is gevorderd, voordat de ontwikkeling mogelijk zo snel gaat dat effectief toezicht moeilijker wordt. 23

Zo’n scenario wordt soms een ‘intelligentie-explosie’ genoemd. Dat is een mogelijk risico, geen bewijs dat AI zichzelf op dit moment al zonder menselijke sturing verbetert. De beleidsvraag is vooral hoe de toenemende rol van AI in AI-onderzoek zichtbaar gemaakt en gereguleerd kan worden. 114

Hoe AI-onderzoek de ontwikkeling kan versnellen

AI kan worden ingezet bij uiteenlopende onderdelen van het werk aan toekomstige modellen. Als dat onderzoekers helpt om krachtigere systemen te maken, en die systemen daarna zelf meer onderzoek kunnen ondersteunen, kan elke ronde de volgende mogelijk versnellen. Dit wordt recursieve zelfverbetering genoemd: AI-systemen helpen het proces te verbeteren waarmee nieuwe AI-systemen worden gebouwd. 15

De waarschuwing van de onderzoekers draait vooral om het tempo. In een scenario dat in berichtgeving over hun paper wordt genoemd, zouden ontwikkelingen waarvoor anders een jaar nodig is in enkele weken kunnen plaatsvinden. Dat is een voorspelling, geen gemeten uitkomst: de bronnen laten niet zien dat dit tempo al is bereikt. 314

Een eerder onderzoek, gebaseerd op gesprekken met 25 onderzoekers uit vooraanstaande AI-labs en de academische wereld, wees uit dat velen verwachtten dat AI AI-onderzoek zou automatiseren en zo een positieve terugkoppeling zou veroorzaken. Dat helpt verklaren waarom onderzoekers deze mogelijkheid serieus nemen, maar bewijst niet dat een intelligentie-explosie onvermijdelijk is. 1

Wat onderzoekers van beleidsmakers vragen

De directe oproep is om beter in beeld te krijgen hoe intensief bedrijven AI gebruiken voor onderzoek en ontwikkeling. Meer dan twintig AI-leiders en onderzoekers vroegen beleidsmakers de voortgang kritisch te volgen en mogelijke waarborgen voor de technologie te overwegen. 2

Dat is niet hetzelfde als zeggen dat AI-labs de controle over hun onderzoek al aan AI hebben overgedragen. Meer inzicht in waar en hoe AI wordt ingezet, kan beleidsmakers helpen beoordelen of het bestaande toezicht nog volstaat nu systemen een groter deel van het ontwikkelproces ondersteunen. 23

Waarom sommige leiders het tempo willen verlagen

Een gezamenlijke vertraging kan tijd opleveren voor veiligheidstests, onafhankelijke evaluaties en sterker toezicht, voordat de mogelijkheden van AI opnieuw veranderen. Onderzoekers van OpenAI en Anthropic hebben publiekelijk gepleit voor een lager ontwikkeltempo. Andere leiders in de sector geven juist de voorkeur aan een aanpak die meer op de markt leunt. Er is dus geen eensgezindheid over hoeveel vertraging nodig is, of hoe een werkbare pauze eruit zou moeten zien. 818

Ook praktisch roept zo’n vertraging vragen op: op welke systemen of activiteiten zou die van toepassing zijn, wie controleert of afspraken worden nageleefd en hoe stemmen concurrerende bedrijven dit op elkaar af? Volgens berichtgeving zijn zowel de precieze betekenis van een pauze als de handhaving ervan nog onduidelijk.

Een noodstop voor AI: nuttig, maar geen wondermiddel

Microsoft-president Brad Smith heeft betoogd dat makers van AI-modellen, aanbieders van cloudinfrastructuur en partijen die AI-agenten beheren de mogelijkheid moeten hebben systemen uit te schakelen. Zo’n voorziening kan dienen als noodrem, maar vervangt geen preventie of doorlopend toezicht.

Een noodstop kent bovendien technische grenzen. AI-systemen kunnen draaien op verspreide infrastructuur, waardoor één schakelaar niet garandeert dat elk onderdeel stopt. Experts wijzen daarom ook op de rol van monitoring en menselijk ingrijpen.

De commerciële belangen maken toezicht ingewikkelder

Als ontwikkelaars en cloudbedrijven ook een rol krijgen bij het controleren van AI-systemen, ontstaat een bestuurlijke vraag: bedrijven kunnen tegelijk toezicht helpen vormgeven én de systemen bouwen of hosten. Microsoft ontwikkelt AI-modellen en is, zoals Smiths opmerkingen duidelijk maken, ook een aanbieder van clouddiensten. Juist die overlap maakt duidelijke regels en onafhankelijke controles belangrijk. Op zichzelf bewijst ze niet dat de veiligheidsstandpunten van een bedrijf niet oprecht zijn. 2

Er is ook een bredere coördinatiekwestie. Leiders in de sector verschillen van mening over het gewenste tempo, terwijl bedrijven met elkaar concurreren om AI te bouwen en in gebruik te nemen. Het kan lastig zijn voor één bedrijf om vrijwillig gas terug te nemen als anderen doorgaan. De bronnen laten verdeeldheid en concurrentiedruk zien, maar bewijzen niet dat commerciële belangen de opvattingen van individuele onderzoekers bepalen. 1218

Voor beleidsmakers liggen er daarmee twee samenhangende vragen: hoe volgen zij de rol van AI bij de ontwikkeling van AI, en hoe zorgen zij dat waarborgen controleerbaar zijn in plaats van alleen te berusten op beloften van bedrijven? De waarschuwingen zijn aanleiding om die vragen nu te onderzoeken. Ze beantwoorden niet hoe waarschijnlijk een intelligentie-explosie is, of welke beleidsmaatregel het beste werkt. 123