Google flytter AI-ansvarsteam ut av DeepMind – ansatte frykter svekket uavhengighet

Hva skal flyttes?

Google planlegger å flytte det rundt 90 personer store AI Responsibility-teamet ut av Google DeepMind og inn i Googles Global Affairs-divisjon i begynnelsen av september. Global Affairs samler blant annet arbeid med offentlig politikk, myndighetskontakt og andre konsernfunksjoner. Den rapporterte begrunnelsen er at arbeidet med AI-risiko og samfunnsvirkninger skal ligge nærmere politikk, juss og dialog med myndigheter, samtidig som DeepMind integreres tettere i Googles produktrettede AI-satsing. 53

Teamet har arbeidet med risikoer knyttet til såkalte frontlinjemodeller – de mest avanserte AI-systemene – og har blant annet vurdert:

• mulig misbruk innen kjemiske, biologiske, radiologiske og nukleære områder, ofte omtalt med forkortelsen CBRN;
• bredere samfunns- og sikkerhetsvirkninger av stadig mer kapable modeller;
• mulige psykiske skadevirkninger ved langvarig eller intensiv bruk av AI-chatboter. 5

Etter flyttingen vil teamet ikke lenger være organisatorisk plassert i laboratoriet som utvikler Googles mest avanserte modeller.

Hvorfor er ansatte bekymret?

Interne bekymringer som er rapportert, handler først og fremst om uavhengighet. Ansatte frykter at et team som flyttes fra et forskningsmiljø til en konsernfunksjon, kan få større avstand til de tekniske beslutningene om modellene. De er også bekymret for at det kan bli vanskeligere å følge opp eller eskalere funn som er ubehagelige for produktutviklingen. 5

Dette er bekymringer fra ansatte – ikke dokumentasjon på at Google allerede har innført slike begrensninger. Det er heller ikke tilstrekkelig offentlig informasjon til å fastslå nøyaktig hvordan teamets fremtidige bemanning, tilgang til modeller, publiseringsfrihet, budsjett eller myndighet til å varsle ledelsen vil se ut. Det finnes derfor ikke tilstrekkelig grunnlag for å si sikkert hvilke praktiske sikkerhetsmekanismer teamet beholder.

Det er også ikke tilstrekkelig dokumentasjon til å konkludere med at flyttingen fjerner en formell rett til å stanse lanseringer. Kildene som foreligger, beskriver ikke en fullstendig og bindende oversikt over teamets fremtidige beslutningsmyndighet. 5

Hva blir igjen i DeepMind?

Andre team i Google DeepMind og Google fortsetter å arbeide med mer operative og tekniske sikkerhetstiltak. Det omfatter blant annet modellatferd, personvern, sikkerhet og teknisk AI-sikkerhet. 67

Omorganiseringen kan dermed skape et tydeligere skille mellom:

• tekniske og produktnære kontroller i organisasjonen som utvikler modellene;
• samfunnsvirkning, styring, politikk og myndighetskontakt i Global Affairs.

Et slikt skille kan gjøre det enklere å samordne arbeidet på tvers av Google og håndtere regulatoriske spørsmål. Samtidig oppstår spørsmålet om hvor tett de som gransker risiko, faktisk får følge modellutviklingen – og hvor tydelig de kan kreve endringer før en lansering.

Endringen kommer etter et lederskifte

Flyttingen skjer samtidig som Demis Hassabis går bort fra det daglige CEO-ansvaret i Google DeepMind. Han blir styreleder i DeepMind og sjefsforsker i Alphabet, Googles morselskap. Koray Kavukcuoglu, som tidligere var teknologidirektør og Googles øverste AI-arkitekt, får større operativ myndighet og skal lede den daglige virksomheten. 1334

Reuters har også rapportert at enkelte AI-team er flyttet nærmere Googles sentrale konsernorganisasjon, mens ledelsen presser på for raskere utvikling av Gemini. Endringene kommer etter flere profilerte avskjeder blant ledere og forskere. 34

Hva sier dette om AI-sikkerhet i store teknologiselskaper?

Strukturen betyr ikke nødvendigvis at Google har forlatt arbeidet med sikkerhet. Den viser snarere et grunnleggende styringsdilemma for de store AI-laboratoriene: Sikkerhetsekspertise må være nær nok modellutviklingen til å påvirke den, men selskapene ønsker samtidig å samle ansvar for juss, politikk, lansering og samfunnsvirkning – alt mens konkurransen om å levere stadig mer kapable modeller blir hardere. 53

En sentralisert modell kan gi mer enhetlige regler og bedre kontakt med myndighetene. Men den kan også svekke den opplevde, og potensielt den praktiske, uavhengigheten til interne kritikere dersom tilgang til modeller, rett til å publisere funn og klare regler for eskalering eller lanseringsgjennomgang ikke er uttrykkelig sikret.

Det avgjørende blir derfor ikke bare hvor teamet er plassert på organisasjonskartet, men hvilke ressurser, hvilken tilgang og hvilken reell myndighet det får etter flyttingen.