Alex Turner: AI-race vraagt om controle die bedrijven ook echt kan afremmen

Alex Turner, voormalig onderzoeker bij Google DeepMind, waarschuwt niet alleen dat de ontwikkeling van AI langzamer moet. Zijn punt is scherper: de krachtigste systemen kunnen sneller vooruitgaan dan bedrijven, overheden en zelfs concurrerende grootmachten als de Verenigde Staten en China betrouwbaar kunnen beheersen. Volgens Turner kan het volgen van de gebruikte rekenkracht — compute — een basis vormen voor echte, handhaafbare regelgeving. 17

Waarom Turner DeepMind verliet

Turner werkte bij het team voor schaalbare AI-alignment van DeepMind: onderzoek dat moet helpen waarborgen dat zeer capabele toekomstige systemen in het belang van mensen handelen. Hij nam in juni 2026 ontslag nadat Google een overeenkomst sloot die gebruik van zijn AI door het Pentagon voor vertrouwelijk werk mogelijk maakte. Volgens Turner ontbraken daarin bindende beperkingen tegen autonome wapens en massasurveillance. 1819

Daarmee verbindt hij militaire toepassing direct aan zijn bredere zorg over krachtige AI. Veiligheidsprincipes hebben volgens die redenering weinig waarde als zij verdwijnen zodra commerciële of strategische druk oploopt.

Het risico is verlies van controle, geen vaststaande voorspelling

Turner stelt niet dat een ramp onvermijdelijk is. Hij beschrijft een mogelijk faalpad: AI-systemen zouden onderzoek naar AI kunnen versnellen, delen van hun eigen ontwikkeling kunnen automatiseren of zo complex kunnen opereren dat mensen niet langer zinvol kunnen controleren wat er gebeurt.

Het gevaar zit dus niet simpelweg in „intelligentie”, maar in de combinatie van hoge capaciteiten, autonomie en gebrekkige controle. Een systeem dat complexe doelen nastreeft, toegang krijgt tot hulpmiddelen en opvolgers kan helpen verbeteren, kan een terugkoppelingslus creëren waarin de technische vooruitgang sneller gaat dan menselijke evaluatie en regulering.

Daarom vindt Turner dat bedrijven niet mogen toestaan dat AI zichzelf ontwikkelt tot een onbeheersbaar niveau van intelligentie. Dat is een waarschuwing voor een aannemelijk risico, geen bewijs dat zo’n systeem al bestaat of dat menselijke uitsterving vaststaat. 1719

Waarom compute-tracking centraal staat

Compute omvat de gespecialiseerde chips, datacenters en elektriciteit die nodig zijn om geavanceerde modellen te trainen. Het is een schaars en fysiek aanknopingspunt in een verder grotendeels digitale sector. Turner ziet het volgen daarvan als mogelijke basis voor afdwingbare regels. 17

Een toezichtregime zou bijvoorbeeld zicht kunnen bieden op uitzonderlijk grote trainingsruns, drempels kunnen instellen voor vergunningen of onafhankelijke toetsing, en het moeilijker kunnen maken om onopvallend boven afgesproken capaciteitsgrenzen uit te komen. Daarmee lost compute-tracking het alignmentprobleem niet op. Wel maakt het toezicht concreter: er is iets controleerbaars vóór een model wordt ingezet.

Dat onderscheid is wezenlijk. Vrijwillige beloften tonen intentie; monitoring en bindende verplichtingen moeten ook standhouden wanneer een bedrijf er commercieel belang bij heeft om sneller door te ontwikkelen.

Amodei: de grens vertragen, niet stilzetten

Dario Amodei, CEO van Anthropic, kiest een andere formulering: „pace the frontier”. Hij wil het tempo waarin AI-capaciteiten toenemen verlagen, zodat alignmentonderzoek, beveiliging en externe evaluaties kunnen bijblijven. Hij pleit uitdrukkelijk niet voor een volledige stop op modeltraining of technische vooruitgang. 16

Zijn voorstel bestaat uit drie onderdelen:

1. Ingebedde onafhankelijke beoordelaars. Laboratoria aan de AI-grens zouden externe evaluatoren doorlopende toegang geven die vergelijkbaar is met die van werknemers. Zij moeten veiligheidspraktijken kunnen verifiëren, alignment kunnen beoordelen en incidenten kunnen melden. Anthropic heeft zich daartoe gecommitteerd. 16
2. Afstemming tussen democratische landen en toonaangevende labs. Deelnemers zouden gezamenlijke veiligheidsnormen en grenzen voor ongecontroleerde capaciteitsgroei nastreven. 116
3. Uiteindelijk bredere internationale samenwerking, waar mogelijk ook met China. Het doel is te voorkomen dat terughoudendheid in één land de ontwikkeling alleen maar naar elders verplaatst. 18

Turner legt meer nadruk op het voorkomen van onbeheersbare zelfverbetering en op regulering van de middelen die zulke grensverleggende ontwikkeling überhaupt mogelijk maken.

Altman, Musk en Hassabis steunen de richting

Amodei kreeg opvallend brede publieke steun van leiders van concurrerende AI-organisaties.

• Sam Altman zei dat OpenAI het idee van onafhankelijke beoordelaars met toegang op werknemerniveau zou overnemen. Ook verwelkomde hij veiligheidseisen voor labs aan de AI-grens. 212
• Elon Musk reageerde publiekelijk met: „Dario heeft gelijk.” De beschikbare berichtgeving biedt minder duidelijkheid over een uitgewerkt reguleringsmodel dat hij zelf voorstaat. 47
• Demis Hassabis, CEO van Google DeepMind, stelde dat Amodei’s essay de juiste richting wijst. 27

Dat betekent niet dat zij het eens zijn over alle drempelwaarden, handhavingsmiddelen of geopolitieke afwegingen. Wel laat het zien dat de discussie verschuift: niet langer alleen óf veiligheid aandacht verdient, maar of bedrijven kunnen blijven opschalen terwijl de veiligheidspraktijk probeert bij te benen.

China is tegelijk bezwaar én reden voor samenwerking

Het standaardbezwaar tegen vertraging is geopolitiek: als Amerikaanse bedrijven inhouden, doet China dat dan ook? Reuters beschrijft een breder conflict tussen gecoördineerde terughoudendheid en marktgedreven veiligheidsmaatregelen, waarbij de concurrentie met China een centrale rol speelt. 1

Amodei’s antwoord is gefaseerde coördinatie: eerst tussen democratische landen en hun leidende labs, later breder. Juist dat laatste is het minst zekere onderdeel. Controleerbaarheid, strategisch wantrouwen en uiteenlopende nationale belangen maken een bindend internationaal akkoord moeilijk.

Turners nadruk op compute maakt duidelijk waarom voorstanders zoeken naar meer dan goede wil. Als toezichthouders de middelen voor de grootste trainingsruns kunnen identificeren en inspecteren, beschikken zij mogelijk over een beter handhaafbaar instrument dan vrijwillige beloften in een internationale wedloop. 17

De echte vraag: wie moet bewijzen dat doorgaan veilig is?

De opkomende overeenstemming in de sector is beperkt. Amodei, Altman, Musk en Hassabis steunen een vorm van vertraging en sterkere evaluatie. 127 Maar de kernvragen zijn niet opgelost:

• Mogen bedrijven de krachtigste AI verder ontwikkelen terwijl veiligheidsmaatregelen gaandeweg verbeteren?
• Of moeten bepaalde paden — vooral systemen die zichzelf ongecontroleerd kunnen verbeteren — worden verboden totdat er een geloofwaardige manier is om ze te beheersen?
• Kunnen externe beoordelaars werkelijk onafhankelijk en goed geïnformeerd genoeg zijn om de labs tegenspraak te bieden?
• En kan internationale samenwerking voorkomen dat veiligheidsregels een concurrentienadeel worden voor juist de partijen die ze naleven?

Turners belangrijkste bijdrage aan het debat is zijn nadruk dat dit niet alleen om vrijwillige bedrijfsvoorzichtigheid gaat. Als het risico werkelijk verlies van controle is, moet ook het antwoord controleerbaar en afdwingbaar zijn. Amodei’s plan is een betekenisvolle stap naar externe toetsing; Turner verklaart waarom critici vinden dat de echte test is of toezicht een gevaarlijke capaciteitenrace daadwerkelijk kan stoppen. 1617