Google sposta il team sulla responsabilità dell’IA fuori da DeepMind

Google prevede di trasferire all’inizio di settembre il team AI Responsibility, composto da circa 90 persone, da Google DeepMind alla divisione Global Affairs. Quest’ultima riunisce funzioni aziendali legate a politiche pubbliche, rapporti con i governi e altri interlocutori istituzionali. Secondo le ricostruzioni disponibili, l’obiettivo è avvicinare il lavoro sui rischi dell’IA e sul suo impatto sociale alle attività legali, regolatorie e di relazioni istituzionali, mentre DeepMind viene integrata più strettamente nell’operazione di Google dedicata ai prodotti di IA. 53

Che cosa fa il team AI Responsibility

Il gruppo ha studiato sia i rischi catastrofici sia quelli sociali legati ai sistemi di frontiera, cioè i modelli di IA più avanzati. Tra i temi figurano il possibile uso improprio in ambito chimico, biologico, radiologico e nucleare — indicato con l’acronimo CBRN — e i potenziali effetti psicologici di interazioni prolungate con i chatbot. Con il trasferimento, il team non sarà più formalmente collocato all’interno del laboratorio che sviluppa i modelli di frontiera. 5

Perché alcuni dipendenti sono preoccupati

La principale preoccupazione riguarda l’indipendenza. All’interno di un laboratorio di ricerca, gli esperti di sicurezza possono avere un accesso più diretto ai ricercatori, ai dati e alle decisioni sul comportamento dei modelli. Passando a una funzione di affari istituzionali, il gruppo potrebbe invece essere percepito come più vicino alle priorità aziendali, normative e di comunicazione.

I dipendenti temono quindi che diventi più difficile analizzare o portare all’attenzione dell’azienda risultati scomodi sui nuovi modelli, oppure intervenire tempestivamente nelle decisioni di sviluppo. Si tratta, però, di timori riportati dall’interno dell’organizzazione, non di prove che tali limitazioni siano già state introdotte. 5

Risorse e poteri: che cosa è ancora incerto

Le informazioni pubbliche indicano che il team dovrebbe continuare a occuparsi dei rischi dell’IA e dei suoi effetti sulla società. Non è tuttavia disponibile un quadro completo e vincolante sul futuro organico, sull’accesso ai modelli, sulla libertà di pubblicare ricerche, sul budget o sui poteri di escalation.

Di conseguenza, non è possibile stabilire con certezza quali garanzie operative resteranno in vigore dopo il trasferimento. Non ci sono prove sufficienti, inoltre, per concludere che il cambiamento elimini qualsiasi potere formale del team di impedire il rilascio di un modello. 5

Che cosa resta dentro DeepMind

Altri gruppi di DeepMind e di Google continuano a lavorare sulle protezioni operative dei modelli: comportamento, privacy, sicurezza e sicurezza tecnica. La riorganizzazione sembra quindi accentuare la distinzione tra due aree:

• i controlli tecnici e di prodotto, che restano più vicini all’organizzazione responsabile dello sviluppo;
• lo studio degli impatti più ampi, la governance e le politiche pubbliche, che passano a Global Affairs. 67

Questa separazione potrebbe rendere più uniforme il coordinamento con autorità e regolatori. Al tempo stesso, potrebbe aumentare la distanza tra chi individua un rischio e chi decide come, quando e se un modello debba essere distribuito.

Il contesto: Hassabis lascia la gestione quotidiana

Il trasferimento arriva mentre Demis Hassabis passa dal ruolo operativo di CEO di Google DeepMind a quello di presidente di DeepMind e chief scientist di Alphabet, la società madre di Google. Koray Kavukcuoglu, già chief technology officer e chief AI architect, assume invece maggiori responsabilità operative e supervisionerà lo sviluppo dei modelli Gemini, la ricerca sull’IA di frontiera e i team dell’app e degli strumenti per sviluppatori. 1334

Le ricostruzioni giornalistiche descrivono inoltre una riorganizzazione più ampia, con lo spostamento di alcuni team verso la struttura corporate di Google, mentre i vertici spingono per accelerare lo sviluppo di Gemini. Il quadro è accompagnato da alcune partenze di figure senior, in un momento in cui Google è sottoposta alla pressione competitiva dei principali laboratori rivali. 34

Che cosa rivela la riorganizzazione

Il cambiamento non dimostra che Google abbia abbandonato il lavoro sulla sicurezza. Mostra piuttosto una tensione centrale per i grandi laboratori di IA: l’azienda vuole che le competenze sulla sicurezza siano abbastanza vicine ai team che costruiscono i modelli da poterli influenzare, ma tende anche a centralizzarle insieme a funzioni legali, istituzionali e di distribuzione mentre cerca di immettere rapidamente sul mercato sistemi sempre più capaci. 53

Una struttura più centralizzata può facilitare il coordinamento interno e i rapporti con i regolatori. Tuttavia, rischia di indebolire l’indipendenza — reale o percepita — dei critici interni se non vengono protetti in modo esplicito l’accesso ai modelli, il diritto di pubblicare i risultati e procedure chiare per segnalare i problemi o riesaminare le decisioni di rilascio. 53