Waarom Google zijn AI-verantwoordelijkheidsteam uit DeepMind haalt

Wat gaat Google veranderen?

Google is van plan zijn ongeveer 90 medewerkers tellende AI Responsibility-team begin september weg te halen bij Google DeepMind en onder te brengen bij Global Affairs, de organisatie die zich bezighoudt met onder meer beleid, juridische kwesties en contacten met overheden. 53

Het team richt zich op de risico’s en maatschappelijke gevolgen van de krachtigste AI-systemen. Het onderzocht onder andere de mogelijkheid dat zogenoemde frontier-modellen worden misbruikt voor chemische, biologische, radiologische of nucleaire toepassingen — vaak samengevat als CBRN — en keek naar mogelijke psychologische effecten van langdurige interactie met AI-chatbots. 5

Waarom gebeurt dit juist nu?

De verhuizing maakt deel uit van een bredere reorganisatie bij Google DeepMind. Demis Hassabis heeft zijn dagelijkse verantwoordelijkheden als topman neergelegd en is voorzitter van Google DeepMind en chief scientist van moederbedrijf Alphabet geworden. Koray Kavukcuoglu, eerder technisch directeur van DeepMind, krijgt meer operationele zeggenschap over de ontwikkeling van Gemini, frontier-onderzoek en de bijbehorende product- en ontwikkelaarsteams. 1346

Tegelijkertijd worden sommige AI-teams volgens berichtgeving dichter bij het bredere Google-concern geplaatst. De leiding wil de ontwikkeling van Gemini versnellen terwijl Google de concurrentie met andere AI-bedrijven aangaat. Die druk komt op een moment van opvallende personeelswisselingen en het vertrek van enkele prominente onderzoekers. 34

Waar zijn medewerkers bang voor?

Medewerkers vrezen dat het team minder onafhankelijk wordt wanneer het niet langer deel uitmaakt van het onderzoekscentrum dat de meest geavanceerde modellen ontwikkelt. In een beleids- of corporate-affairsomgeving zou de afstand tot modelbouwers en productbeslissingen groter kunnen worden. Daardoor kan het volgens werknemers moeilijker worden om ongemakkelijke onderzoeksresultaten onder de aandacht te brengen of risico’s bij nieuwe modellen krachtig te escaleren. 5

Dat zijn zorgen die vanuit de organisatie zijn gemeld, geen bewijs dat Google het team al concrete beperkingen heeft opgelegd. Ook is niet vastgesteld dat de verhuizing het team formeel de bevoegdheid ontneemt om een release tegen te houden. Daarvoor ontbreekt voldoende informatie. 5

Wat blijft wel en niet duidelijk?

Volgens de beschikbare berichtgeving blijft het overgeplaatste team verantwoordelijk voor onderzoek naar AI-risico’s en maatschappelijke effecten. Maar er is geen volledig, bindend overzicht gepubliceerd van de toekomstige:

• personeelsomvang;
• toegang tot modellen en interne ontwikkelgegevens;
• vrijheid om onderzoek te publiceren;
• budgetten;
• bevoegdheid om bevindingen naar hogere leidinggevenden te escaleren.

Daarom is nog niet met zekerheid te zeggen welke praktische waarborgen het team behoudt of verliest. Vooral de vraag of onderzoekers dicht genoeg bij de ontwikkeling van nieuwe modellen blijven om vroegtijdig invloed uit te oefenen, is nog open. 5

Welke veiligheidsfuncties blijven bij DeepMind?

Niet al het veiligheidswerk verhuist mee. Andere teams binnen DeepMind en Google blijven zich bezighouden met meer operationele en technische bescherming, zoals modelgedrag, privacy, beveiliging en technische AI-veiligheid. 67

De reorganisatie lijkt daarmee een duidelijker scheidslijn te trekken: technische en productgerichte controles blijven dichter bij de ontwikkelorganisatie, terwijl bredere vragen over maatschappelijke impact, bestuur en overheidsbeleid onder Global Affairs vallen.

Wat zegt dit over de AI-sector?

De reorganisatie betekent niet automatisch dat Google veiligheidsonderzoek heeft opgegeven. Wel legt ze een fundamentele spanning bloot bij grote AI-labs. Veiligheidsexperts moeten dicht genoeg op de modelontwikkeling zitten om daadwerkelijk invloed te hebben, maar bedrijven brengen toezicht ook steeds vaker samen met juridische, beleidsmatige en commerciële beslissingen — terwijl ze tegelijk proberen sneller krachtige modellen uit te brengen. 53

Een plek binnen Global Affairs kan zorgen voor meer samenhang in beleid en contact met toezichthouders. Maar zonder expliciete garanties over toegang tot modellen, publicatievrijheid en duidelijke escalatie- of beoordelingsrechten kan de onafhankelijkheid van interne kritische stemmen zowel in de praktijk als in de beeldvorming verzwakken. 53