Geoffrey Hinton: 10% kans op AI-uitsterving binnen tien jaar is „niet onredelijk”

Geoffrey Hinton, de Nobelprijswinnende computerwetenschapper die vaak een pionier van moderne AI wordt genoemd, vindt een kans van 10% dat AI binnen tien jaar alle mensen doodt geen onredelijke inschatting. Zijn cruciale kanttekening: niemand weet echt hoe je zo’n kans degelijk berekent. 91012

Dat is dus geen voorspelling dat menselijke uitsterving zal plaatsvinden. Ook beweert Hinton niet dat de huidige generatie chatbots dit risico vormt. Zijn waarschuwing gaat over wat er kan gebeuren als AI-systemen veel capabeler worden dan mensen en moeilijk beheersbaar blijven.

Waarom Hinton zich zorgen maakt

In zijn interview met BBC-programma Newsnight stemde Hinton in met de stelling dat 10% binnen een decennium geen onredelijke schatting is. Zijn argument draait om fundamentele onzekerheid: mensen hebben nooit eerder naast entiteiten bestaan die mogelijk slimmer worden dan zijzelf. Daarom, zegt hij, is voorzichtigheid geboden. 910

Hinton heeft eerder vergelijkbare, maar langeretermijninschattingen gegeven. Eind 2024 sprak hij over een kans van 10% tot 20% dat AI binnen dertig jaar tot menselijke uitsterving leidt. In 2025 noemde hij dat nadrukkelijk een onderbuikinschatting, geen doorgerekende voorspelling. 1415

Het onderscheid is belangrijk: een risico-inschatting is niet hetzelfde als de bewering dat een ramp onvermijdelijk is. Volgens Hinton maakt juist de combinatie van enorme mogelijke schade en grote onzekerheid voorzichtigheid noodzakelijk.

Niet de huidige AI, maar een mogelijke superintelligentie

Hinton schetst geen Hollywoodscenario van machines die plotseling in opstand komen. Zijn zorg is dat een systeem met veel meer strategische en technische vaardigheden dan mensen chaos kan veroorzaken of doelen kan nastreven die botsen met menselijke belangen.

Als mogelijke routes naar schade worden onder meer manipulatie van mensen, biologische of computervirussen, cyberaanvallen en verstoring van kritieke infrastructuur genoemd. Het gaat om hypothetische mechanismen bij zeer geavanceerde toekomstige systemen, niet om aangetoonde vermogens van de AI-tools die nu beschikbaar zijn. 1011

Evan Hubinger, hoofd alignment science bij Anthropic, maakt dat onderscheid expliciet. Hij noemt het risico van de huidige modellen laag. Zijn zorg betreft systemen die in de toekomst veel krachtiger kunnen worden of zichzelf sneller kunnen verbeteren dan onderzoekers veilig kunnen bijbenen. 11624

Vertrek bij Anthropic wakkert debat aan

De discussie kreeg extra aandacht nadat Jacob Coxon Anthropic én de AI-sector verliet. Coxon stelde dat Anthropic en OpenAI te hard racen naar zelfverbeterende superintelligentie en daarbij met mensenlevens gokken. 317

Coxon voorspelde niet specifiek dat de mensheid in 2030 zal verdwijnen. Zijn beperktere, maar nog altijd opmerkelijke punt was dat mensen die aan geavanceerde AI werken oprecht denken dat de technologie tegen het einde van dit decennium iedereen zou kunnen doden. 57

Hubinger steunde de ernst van die waarschuwing publiekelijk. Hij schreef dat hij persoonlijk een kans van meer dan 10% ziet dat AI binnen tien jaar alle mensen doodt. Tegelijk zei hij dat Anthropic zijn best doet. De onderneming heeft volgens hem echter nog geen plan om het alignmentprobleem voor superintelligentie op te lossen, en ligt ook niet duidelijk op koers om zo’n plan te ontwikkelen. 16

Wat betekent ‘alignment’?

Met alignment bedoelen AI-veiligheidsonderzoekers het probleem om zeer geavanceerde systemen betrouwbaar te laten handelen volgens de bedoelde menselijke doelen, ook in situaties die de makers niet hadden voorzien.

Het gaat dus om meer dan een chatbot die een verkeerd verzoek weigert. De centrale vraag is of een systeem met brede autonomie, toegang tot hulpmiddelen en vermogens die zijn bedieners niet volledig doorgronden, onder druk in de praktijk veilig kan worden aangestuurd.

Hubingers opmerkingen bewijzen niet dat alignment onmogelijk is. Ze betekenen wel dat er volgens hem nog geen aangetoonde oplossing bestaat om superintelligente AI op tijd veilig af te stemmen op menselijke belangen. 16

Over voorzorg bestaat meer overeenstemming dan over 10%

Over Hintons precieze percentage bestaat geen consensus. Gary Marcus onderschreef wel Hintons kernpunt: het zou onverstandig zijn om superintelligentie te ontwikkelen zolang er geen wetenschappelijke consensus is dat die veilig en beheersbaar kan worden gebouwd. Tegelijk ziet Marcus geen realistische route naar menselijke uitsterving op korte termijn. 1141

Dat illustreert de belangrijkste scheidslijn in dit debat. Experts kunnen het eens zijn dat er stevige veiligheidswaarborgen nodig zijn, zonder het eens te zijn over de kans op een catastrofe of de termijn waarop die zou kunnen ontstaan.

De vraag voor politiek en samenleving

De gedeelde boodschap van de voorzichtigste stemmen is niet dat AI-uitsterving zeker is. Wel dat een serieuze kans om de controle te verliezen over systemen die slimmer zijn dan hun makers, publieke en politieke aandacht verdient voordat de technische ontwikkeling het veiligheidswerk inhaalt.

Voor lezers helpt het om drie beweringen uit elkaar te houden:

• De AI-modellen van vandaag vormen een existentiële dreiging.
• Toekomstige systemen kunnen capaciteiten krijgen die zo’n dreiging veroorzaken.
• De kans daarop is nauwkeurig te berekenen.

De beschikbare bronnen ondersteunen vooral de tweede stelling als een serieus punt van zorg onder prominente onderzoekers. Hubinger noemt het risico van huidige modellen laag, terwijl Hinton zegt dat de kans zelf niet betrouwbaar te kwantificeren is. 11016