Google trasladará su equipo de responsabilidad en IA fuera de DeepMind: qué cambia y por qué preocupa

Google planea trasladar a comienzos de septiembre su equipo de responsabilidad en IA, formado por unas 90 personas, desde Google DeepMind a la división Global Affairs. Según las informaciones publicadas, el objetivo sería acercar el trabajo sobre riesgos de la inteligencia artificial y sus efectos sociales a las áreas de políticas públicas, asuntos legales y relaciones gubernamentales, mientras DeepMind se integra más estrechamente en la operación de IA orientada a productos de Google. 53

Qué hace el equipo y qué cambiará

El grupo ha estudiado riesgos catastróficos y sociales asociados a los sistemas de frontera, es decir, los modelos de IA más avanzados. Entre ellos figuran el posible uso indebido con fines químicos, biológicos, radiológicos y nucleares —conocido como riesgo CBRN, por sus siglas en inglés— y los posibles efectos psicológicos de mantener interacciones prolongadas con chatbots.

Con el traslado, el equipo dejará de estar dentro del laboratorio que desarrolla algunos de los modelos de IA de frontera de Google. 5

Por qué algunos empleados temen perder independencia

La principal preocupación interna es que pasar de un laboratorio de investigación a una función de asuntos corporativos pueda debilitar la independencia del grupo. También existe el temor de que quede más alejado de las decisiones de desarrollo de modelos y tenga más dificultades para investigar o elevar conclusiones incómodas sobre nuevos sistemas.

Estas son preocupaciones atribuidas a empleados y recogidas en los reportes, no pruebas de que Google ya haya impuesto esas restricciones. 5

Qué se sabe —y qué sigue sin estar claro— sobre sus recursos

La información disponible indica que el equipo trasladado conservará la responsabilidad de estudiar los riesgos de la IA y sus efectos sociales. Sin embargo, no ofrece un panorama completo y vinculante sobre su futura plantilla, acceso a los modelos, libertad para publicar investigaciones, presupuesto o autoridad para escalar problemas dentro de la empresa.

Por eso, todavía no se puede afirmar con seguridad qué salvaguardas prácticas conservará. Tampoco hay pruebas suficientes para concluir que el cambio le quite alguna facultad formal para bloquear lanzamientos. 5

La seguridad técnica seguirá repartida entre otros equipos

El traslado no significa que todo el trabajo de seguridad desaparezca de DeepMind. Otros grupos de DeepMind y de Google continúan trabajando en controles operativos de los modelos, como su comportamiento, privacidad, seguridad informática y seguridad técnica. 67

La reorganización, eso sí, marca una separación más definida: los controles técnicos y de producto permanecerían dentro de la organización que desarrolla los sistemas, mientras que el análisis de impacto, la gobernanza y las políticas públicas quedarían más vinculados a Global Affairs.

El contexto: Hassabis deja la gestión diaria

El movimiento llega durante una reorganización más amplia de Google DeepMind. Demis Hassabis ha dejado las responsabilidades operativas cotidianas como director ejecutivo para convertirse en presidente de Google DeepMind y científico jefe de Alphabet, la empresa matriz de Google. Koray Kavukcuoglu, hasta ahora director de tecnología y arquitecto jefe de IA, ha asumido una autoridad operativa mayor sobre el desarrollo de Gemini y otras áreas centrales. 1334

Reuters también ha informado de que Google ha trasladado algunos equipos de IA hacia la estructura corporativa de la compañía, mientras sus dirigentes presionan para acelerar el desarrollo de Gemini. Estos cambios se producen además en medio de varias salidas destacadas de personal sénior. 34

La tensión de fondo para los grandes laboratorios de IA

La reestructuración no demuestra que Google haya abandonado el trabajo de seguridad. Sí pone de relieve un dilema cada vez más visible en los grandes laboratorios de IA: la experiencia en seguridad debe estar lo bastante cerca de quienes diseñan los modelos como para influir en sus decisiones, pero las empresas también quieren concentrarla junto a las áreas legales, regulatorias y de despliegue mientras compiten por lanzar sistemas más capaces con rapidez. 53

Integrar estas funciones puede facilitar criterios comunes dentro de toda la compañía y una relación más directa con los reguladores. Pero también puede debilitar la independencia percibida —y potencialmente práctica— de quienes cuestionan decisiones internas, salvo que se protejan de forma explícita su acceso a los modelos, sus derechos de publicación y una autoridad clara para escalar riesgos o revisar lanzamientos.