De mentale druk achter de AI-wedloop

De kern is een botsing tussen morele stress en institutionele druk. Mensen die de meest geavanceerde AI-modellen testen, vrezen dat die systemen — en de concurrentiestrijd om ze snel uit te brengen — misbruik voor biologische of cyberaanvallen mogelijk kunnen maken voordat beveiliging, toezicht en evaluaties op orde zijn.

Volgens berichtgeving hebben meerdere medewerkers van het Britse AI Safety Institute (AISI), een organisatie die geavanceerde AI-modellen onafhankelijk evalueert, ziekteverlof genomen of begeleiding gezocht wegens mentale druk. Bronnen noemen onder meer lage moraal, burn-out en strakke testschema’s. 15 Voor onderzoekers bij grote labs als Anthropic, OpenAI en Google DeepMind zijn vergelijkbare zorgen gemeld, maar de publieke informatie maakt niet duidelijk hoe breed dit binnen elke organisatie voorkomt.

Waar zijn onderzoekers precies bang voor?

De risico’s die zij noemen zijn zowel concreet als zeer ernstig. AI kan de drempel verlagen voor cyberaanvallen of voor misbruik in de biologie. Daarnaast is er de vrees dat steeds autonomere systemen op termijn moeilijker onder betekenisvolle menselijke controle te houden zijn. Jacob Coxon noemde AI-ondersteunde biologische dreigingen en cyberwapens als plausibele routes naar een catastrofe. 15

Dat maakt veiligheidswerk emotioneel zwaar: deze onderzoekers bestuderen niet alleen een abstract gevaar. Zij testen, trainen of helpen bij de inzet van de systemen waarover zij zich zorgen maken. Als een team een risico vaststelt, maar commerciële druk en korte deadlines blijven bestaan, kan de afstand tussen een probleem signaleren en een release daadwerkelijk tegenhouden gevoelens van machteloosheid, burn-out en morele verwonding versterken. 15

Het vertrek van Jacob Coxon gaf de angst een gezicht

Coxon, die na werk aan pretraining bij OpenAI en Anthropic bij Anthropic vertrok, waarschuwde publiekelijk dat bedrijven volgens hem naar zelfverbeterende superintelligentie racen zonder daar verantwoord mee om te gaan. 14 19 Tegen de BBC zei hij dat mensen in toonaangevende AI-labs „oprecht bang” waren voor het tempo van de vooruitgang en de gevolgen daarvan. 9

Zijn uitspraken bewijzen niet dat een catastrofe nabij is. Ze maken wel zichtbaar dat sommige mensen die dicht op de ontwikkeling zitten, de combinatie van sneller groeiende capaciteiten, risico op misbruik en beperkte externe controle persoonlijk en ethisch onhoudbaar vinden.

Waarom individuele werknemers dit niet alleen kunnen oplossen

De discussie verschuift daardoor van een individueel gewetensprobleem naar een vraag over arbeidsverhoudingen en bestuur. Een enkele werknemer — of zelfs één lab — kan een internationale technologische wedloop moeilijk afremmen als rivalen doorgaan.

Experts van Stanford stellen dat een brede vertraging van AI-capaciteitsontwikkeling lastig te realiseren is. Zij benadrukken wel dat onafhankelijke evaluaties door overheden of gekwalificeerde externe partijen een standaardonderdeel van het AI-ecosysteem zouden moeten zijn. 3 Ook in voorstellen van sectorleiders komt toegang voor onafhankelijke beoordelaars terug. 2

Vertraging beloven is niet hetzelfde als veiligheid afdwingen

Dario Amodei van Anthropic, Sam Altman van OpenAI en Demis Hassabis van Google DeepMind hebben, ieder met eigen nuance, steun uitgesproken voor het afremmen van de ontwikkeling van zeer geavanceerde AI. 2 Die eensgezindheid heeft de twijfel echter niet weggenomen.

Critici wijzen erop dat een door de grootste AI-bedrijven ontworpen of gecontroleerde „AI-pauze” juist de macht van die bedrijven kan vergroten en kleinere rivalen kan buitensluiten. 11 Daarom draait geloofwaardigheid uiteindelijk minder om verklaringen dan om controleerbare maatregelen: releases uitstellen wanneer drempels worden overschreden, onafhankelijke audits, afdwingbare veiligheidsnormen, bescherming van klokkenluiders en bereidheid om extern toezicht te accepteren.

AI die AI-onderzoek versnelt vergroot het gevoel van verlies aan controle

Volledig recursieve zelfverbetering — AI die zichzelf steeds verder verbetert — is nog niet aangetoond. 6 De directe zorg is dat AI al delen van onderzoek en softwareontwikkeling kan automatiseren. Daardoor kunnen ontwikkelcycli korter worden en kunnen capaciteiten sneller toenemen dan mensen ze kunnen begrijpen, testen en reguleren.

CSET waarschuwt dat verregaande automatisering van AI-onderzoek de vooruitgang kan versnellen en menselijke controle en begrip kan ondermijnen. 4 Tegelijk laat recent onderzoek zien dat AI-agenten inmiddels grote delen van technisch onderzoekswerk kunnen uitvoeren, maar nog geen betekenisvolle vooruitgang boeken bij open, complexe wetenschappelijke vragen. 5

De signalen van stress, hulpvragen en vertrek zijn dus geen bewijs dat menselijke uitsterving onafwendbaar is. Zij laten wel zien dat sommige mensen aan de frontlinie van AI-ontwikkeling de huidige mix van versnelling, dubbelgebruikrisico’s, marktprikkels en zwak extern toezicht als psychologisch en ethisch te zwaar ervaren.