Google flytter AI-ansvarsteam ud af DeepMind

Google planlægger at flytte sit cirka 90 personer store AI Responsibility-team ud af Google DeepMind og ind i Googles Global Affairs-organisation i begyndelsen af september. Den rapporterede begrundelse er at placere arbejdet med AI-risici og samfundsmæssige konsekvenser tættere på funktioner, der arbejder med politik, jura og myndighedskontakt, mens DeepMind integreres tættere med Googles produktorienterede AI-organisation. 53

Hvad laver teamet?

AI Responsibility-teamet har undersøgt både katastrofale og samfundsmæssige risici ved såkaldte frontier-modeller – de mest avancerede AI-systemer, som virksomhederne udvikler. Det omfatter blandt andet risikoen for, at modeller kan misbruges til kemiske, biologiske, radiologiske eller nukleare formål, samlet kaldet CBRN. Teamet har også beskæftiget sig med mulige psykiske skadevirkninger ved langvarige samtaler med AI-chatbots. 5

Efter flytningen vil teamet ikke længere være placeret i det laboratorium, der udvikler de avancerede modeller, det undersøger.

Derfor er medarbejdere bekymrede

Medarbejdere frygter, at en flytning fra et forskningsmiljø til en virksomhedsafdeling for eksterne relationer og politik kan gøre teamet mindre uafhængigt. De er også bekymrede for, om afstanden til modeludviklingen bliver større, og om det fremover bliver sværere at forfølge eller eskalere ubehagelige fund om nye modeller. 5

Det er rapporterede bekymringer blandt medarbejdere – ikke dokumentation for, at sådanne begrænsninger allerede er blevet indført.

Hvad ved man om ressourcer og beføjelser?

Offentlige oplysninger tyder på, at teamet fortsat skal have ansvar for at undersøge AI-risici og samfundsmæssige effekter. Men det tilgængelige materiale giver ikke et fuldstændigt og bindende billede af teamets fremtidige bemanding, adgang til modeller, mulighed for at offentliggøre resultater, budget eller ret til at eskalere sager. Derfor er det endnu ikke muligt at fastslå, hvilke praktiske sikkerhedsforanstaltninger teamet beholder.

Der er heller ikke tilstrækkeligt belæg for at konkludere, at flytningen fjerner enhver formel mulighed for at blokere en lancering. 5

Andre sikkerhedsfunktioner bliver i DeepMind

Andre teams i DeepMind og Google arbejder fortsat med mere operationelle sikkerhedstiltag, blandt andet modellernes adfærd, privatliv, sikkerhed og teknisk AI-sikkerhed. 67

Omorganiseringen skaber dermed en tydeligere opdeling: Tekniske og produktnære kontroller ligger i udviklingsorganisationen, mens det bredere arbejde med samfundseffekter, styring og politik i højere grad placeres i Global Affairs.

En del af en større AI-omlægning

Flytningen kommer samtidig med en større ændring af Googles AI-ledelse. Demis Hassabis har forladt den daglige CEO-ledelse af DeepMind for at blive bestyrelsesformand for Google DeepMind og chief scientist i Alphabet, Googles moderselskab. Koray Kavukcuoglu, der tidligere var teknologidirektør i DeepMind, har fået større operationelt ansvar for blandt andet Gemini-udviklingen. 1334

Reuters har desuden rapporteret, at Google har flyttet nogle AI-teams ind i den overordnede Google-organisation, mens ledelsen forsøger at sætte mere fart på udviklingen af Gemini. Omlægningen sker samtidig med flere markante medarbejderafgange. 34

Hvad betyder det for AI-sikkerheden?

Flytningen betyder ikke i sig selv, at Google har opgivet sit sikkerhedsarbejde. Den viser snarere den grundlæggende styringsudfordring, som præger de store AI-laboratorier: Sikkerhedseksperter skal være tæt nok på udviklingen til at kunne påvirke modellerne, men arbejdet bliver samtidig i stigende grad samlet med jura, politik og beslutninger om udrulning – mens virksomhederne konkurrerer om at lancere stadig mere kapable systemer. 53

En placering i Global Affairs kan give bedre sammenhæng i hele koncernen og tættere kontakt til lovgivere og myndigheder. Men den kan også svække den oplevede – og muligvis den reelle – uafhængighed for interne kritikere, hvis der ikke er klare garantier for adgang til modellerne, retten til at offentliggøre resultater samt tydelige procedurer for eskalering og gennemgang før lancering. 53