Hoe reëel is het risico dat AI de mensheid uitroeit?

De discussie over AI en uitsterving gaat niet simpelweg tussen mensen die AI veilig vinden en mensen die er bang voor zijn. De echte breuklijn ligt elders: hoe snel kunnen AI-systemen vooruitgaan, welke tussenstappen zijn nodig voordat ze onomkeerbare schade kunnen veroorzaken, en hoeveel bewijs moet er zijn voordat strengere grenzen gerechtvaardigd zijn?

De recente waarschuwingen van mensen die bij toonaangevende AI-labs werkten, hebben die vragen urgenter gemaakt. Tegelijk wijzen sceptici erop dat een indrukwekkend systeem voor tekst en software niet automatisch macht krijgt over de fysieke wereld. Daarmee verschuift de beleidsvraag: kunnen ontwikkelaars aantoonbaar laten zien dat zij krachtige systemen beheersen voordat zij die breder inzetten?

De waarschuwingen van binnenuit

Jacob Coxon, voormalig onderzoeker bij Anthropic en volgens zijn eigen verklaring ook eerder werkzaam bij OpenAI, nam ontslag en stelde dat beide bedrijven concurrentie boven verantwoord ontwikkelen zetten. Volgens hem racen ze af op „zelfverbeterende superintelligentie”. 49

Evan Hubinger, hoofd alignment science bij Anthropic, steunde die waarschuwing publiekelijk. Hij schreef dat hij persoonlijk de kans dat AI binnen tien jaar alle mensen doodt hoger dan 10% inschat. Ook zei hij dat Anthropic nog geen plan heeft om alignment — het afstemmen van een systeem op menselijke doelen en grenzen — voor superintelligentie op te lossen. 16

Die 10% is echter geen uitkomst van een meetbaar risicomodel of een wetenschappelijke consensus. Het betreft een persoonlijke deskundigeninschatting onder grote onzekerheid. 12

Ook Bilal Chughtai, voormalig onderzoeker bij Google DeepMind, waarschuwde dat AI volgens hem het potentieel heeft om iedereen te doden en dat de tijd om dit te voorkomen misschien begint te dringen. 2

De waarschuwingen gaan doorgaans niet over de huidige chatbots die plotseling zelfstandig gevaarlijk worden. Het gevreesde scenario is voorwaardelijk: toekomstige systemen zouden AI-onderzoek sterk kunnen versnellen, met veel meer zelfstandigheid kunnen handelen, effectief toezicht kunnen ontwijken of toegang tot cyber-, biologische en institutionele middelen kunnen versterken sneller dan veiligheidsmethoden verbeteren.

Waarom 10% geen vaststaand toekomstbeeld is

Hubingers percentage trekt begrijpelijkerwijs aandacht, juist omdat het komt van een senior onderzoeker op het gebied van AI-veiligheid. Maar het cijfer zegt niet dat uitsterving is aangetoond of waarschijnlijkheidsmatig is berekend.

Om zo'n scenario werkelijkheid te laten worden, zouden meerdere betwiste aannames moeten kloppen:

• AI moet veel capabeler worden dan de systemen van nu.
• Die capaciteit moet zich vertalen naar duurzame strategische autonomie of schadelijke macht buiten de computer.
• Technische controles, menselijke operators, instellingen en tegenmaatregelen moeten tekortschieten.
• Onderzoek naar veiligheid en alignment moet achterblijven bij de groei in mogelijkheden.

Elke stap in die keten is afzonderlijk onderwerp van debat. Dat maakt de zorg niet onbelangrijk, maar wel de conclusie dat een kop met één percentage niet moet worden gelezen als een bewezen voorspelling.

Het sceptische punt: digitale intelligentie is geen fysieke macht

Sceptici betwisten vooral de sprong van sterke prestaties in taal en software naar uitstervingsgevaar in de echte wereld. De biologie wordt daarbij vaak als voorbeeld genoemd. Eric Xing stelt dat een taalmodel een hypothetisch virusgenoom kan voorstellen, maar dat dit fundamenteel iets anders is dan een levensvatbaar virus maken. Materiaal, productie, biologische levensvatbaarheid, laboratoriumwerk en testen vormen afzonderlijke hindernissen. 46

Dat onderscheid is wezenlijk. Een model kan informatie of ontwerpen leveren, maar daadwerkelijke schade vereist vaak gespecialiseerde faciliteiten, praktische expertise, toeleveringsketens, herhaalde experimenten en toegang tot gecontroleerde materialen. Die barrières betekenen niet dat risico's voor biologische veiligheid nul zijn. Ze ondergraven wel de aanname dat digitale vaardigheid op zichzelf direct beslissende fysieke slagkracht oplevert.

Nvidia-topman Jensen Huang noemt het idee dat AI de mensheid zal beëindigen „complete nonsense”. 33 Investeerder Mark Cuban stelt op zijn beurt dat de menselijke reactie op alarmerende berichten een groter gevaar kan vormen dan zwermen AI-agenten zelf. 43

De sceptische positie is dus niet per se dat geavanceerde AI geen waarborgen nodig heeft. De kern is dat uitzonderlijke claims over nabije uitsterving sterker bewijs vragen dan een extrapolatie van de prestaties van huidige modellen en speculatieve toekomstige scenario's.

De praktische middenweg: ontwikkeling doseren, veiligheid verifiëren

Een concretere reactie komt van leiders die uitsterving niet als zekerheid behandelen, maar het evenmin wegwuiven. Dario Amodei, CEO van Anthropic, riep op om het tempo waarin AI-modellen beter worden te verlagen, zodat veiligheidswerk kan bijbenen. Zijn voorstel omvat onafhankelijke beoordelaars die toegang krijgen vergelijkbaar met die van werknemers, plus afstemming tussen de bedrijven die de krachtigste AI ontwikkelen. 18

Reuters meldde dat OpenAI-CEO Sam Altman behoort tot de leiders die een gecoördineerde vertraging nastreven, terwijl de sector verdeeld blijft over de vraag hoeveel men aan marktgedreven waarborgen wil overlaten. 19 Altman steunde volgens berichtgeving ook externe beoordelaars als onderdeel van die aanpak. 20

Dat verlegt het debat van abstracte toekomstbeelden naar controleerbare werkwijzen:

1. Onafhankelijke evaluatie: externe, gekwalificeerde beoordelaars krijgen betekenisvolle toegang om veiligheidsclaims te toetsen, in plaats van dat het publiek alleen op bedrijfsverklaringen moet vertrouwen. 18
2. Drempels op basis van capaciteiten: toezicht of inzetbeperkingen worden aangescherpt wanneer modellen substantiële vooruitgang tonen in gevaarlijke domeinen, zoals cyberoperaties of autonoom gedrag.
3. Afstemming tussen labs: bedrijven moeten minder worden verleid veiligheidsmarges op te offeren uit angst voor een concurrentieachterstand. 18
4. Internationale samenwerking: overheden en grote ontwikkelaars kunnen standaarden op elkaar afstemmen, inclusief afspraken die de druk verminderen om zonder voldoende waarborgen te lanceren. 27
5. Veiligheid die meegroeit: bewezen controle, monitoring en responsvermogen moeten gelijke tred houden met krachtigere systemen.

Niet alleen kijken naar een verre ramp

Er is ook kritiek op de prioriteiten in het debat. Zelfs als catastrofale risico's onderzoek en noodplanning verdienen, kan een eenzijdige focus op onzekere uitstervingsscenario's zicht ontnemen op schade die al speelt.

Daarbij gaat het onder meer om AI-ondersteund cybermisbruik, fraude, surveillance, desinformatie, discriminerende geautomatiseerde beslissingen, verstoring van werk en machtsconcentratie. Amodei noemde zelf misbruikrisico's zoals wapenontwikkeling, cyberaanvallen en surveillance als reden om het ontwikkelingstempo te verlagen. 29

Dat hoeft geen keuze te zijn tussen directe schade en risico's op lange termijn. Betere toegangscontroles, degelijke evaluaties, zorgvuldig uitrolbeleid, onafhankelijke toetsing, meldingen van incidenten en duidelijke aansprakelijkheid kunnen beide agenda's dienen.

Wat er werkelijk op het spel staat

De sterkste conclusie is niet dat AI-uitsterving bewezen is — maar ook niet dat het risico terzijde kan worden geschoven omdat een volledig rampscenario nog niet is aangetoond. De bruikbare norm is praktischer: veiligheidsclaims voor steeds krachtigere systemen moeten toetsbaar zijn, onafhankelijk kunnen worden gecontroleerd en in verhouding staan tot de mogelijke schade.

Coxon, Hubinger en Chughtai pleiten voor voorzorg onder onzekerheid. Sceptici als Huang en Xing betwijfelen of de huidige feiten een doemscenario op korte termijn dragen. Amodei en Altman wijzen op een aanpak die niet eerst elk filosofisch meningsverschil hoeft op te lossen: doseer de ontwikkeling aan de grens van het mogelijke, meet gevaarlijke capaciteiten, laat geloofwaardige buitenstaanders meekijken en werk samen voordat concurrentiedruk onbewezen veiligheidsclaims de standaard maakt. 49 16 33 18 19