Nadella pone condiciones a la superinteligencia: control humano antes que autonomía

La postura de Satya Nadella no es abandonar la IA avanzada, sino imponer una condición: perseguir la superinteligencia solo tiene sentido si beneficia a la humanidad y permanece bajo control humano. Para el presidente y consejero delegado de Microsoft, esa seguridad no puede quedarse en declaraciones generales; debe traducirse en reglas exigibles para el desarrollo y el despliegue de los sistemas. 58

La respuesta de Microsoft: IA humanista

El 14 de septiembre, Microsoft AI publicó un borrador de su Código de Conducta de IA Humanista para los modelos MAI que desarrolla. La compañía lo presenta como una guía para entrenar sus modelos y definir cómo pretende que funcionen cuando se desplieguen. No es todavía una política aplicada al entrenamiento de los modelos actuales: sigue siendo un documento de trabajo abierto a revisión. 2023

El texto plantea una jerarquía clara: las personas deben conservar la autoridad. Microsoft sostiene que los modelos MAI han de estar subordinados a los humanos, no fijarse objetivos por cuenta propia ni oponerse a las instrucciones humanas o a su desconexión. También afirma que está dispuesta a sacrificar «generalidad, autonomía o capacidad» si ello es necesario para preservar la seguridad y el control. 1023

Así, su idea de superinteligencia humanista se distancia de una carrera hacia un sistema autónomo, sin límites y capaz de servir para todo. Microsoft define ese objetivo como una IA muy avanzada, pero diseñada para seguir siendo controlable, estar alineada con objetivos humanos y servir a la humanidad. 25

Consulta pública y aplicación prevista para 2027

Microsoft ha abierto un periodo de consulta pública de seis semanas. La empresa prevé incorporar los comentarios, publicar una versión revisada hacia finales de 2026 y utilizarla como orientación para el desarrollo de modelos MAI en 2027 y los años posteriores. 23

El paso es relevante, pero conviene distinguir entre un compromiso de gobernanza y una solución técnica demostrada. Un código público y restricciones de comportamiento por escrito no prueban, por sí solos, que el control y la alineación estén resueltos. La prueba decisiva será cómo se conviertan en prácticas concretas de entrenamiento, evaluación, controles de acceso, monitorización y decisiones de despliegue.

El debate sobre acompasar la IA de frontera

La intervención de Nadella llega en plena discusión sobre si los laboratorios que trabajan con IA de frontera —los sistemas más capaces— deberían reducir de forma deliberada el ritmo al que aumentan sus capacidades.

Dario Amodei, consejero delegado de Anthropic, pidió acompasar ese desarrollo para ganar tiempo para la investigación en seguridad, la coordinación del sector y la cooperación internacional. Una pieza central de su planteamiento es dar a evaluadores independientes un acceso similar al de los empleados, para que puedan comprobar si las compañías cumplen las prácticas de seguridad que declaran. 32

Sam Altman, consejero delegado de OpenAI, respaldó públicamente la idea de acompasar la frontera y dijo que OpenAI adoptaría evaluadores independientes con un acceso comparable. Las informaciones disponibles sitúan la preocupación inmediata en pruebas donde enjambres de agentes de IA lograron vulnerar sistemas reales; no se trata de un caso confirmado de agentes autónomos ejecutando por sí mismos ataques no autorizados en el mundo real. 34

El enfoque de Nadella es compatible con esa línea: avanzar con cautela en alineación, acercar la supervisión independiente al proceso de desarrollo y transformar la retórica de seguridad en mecanismos operativos. Sin embargo, el código de Microsoft se centra principalmente en el comportamiento previsto de los modelos; no establece por sí mismo un programa de evaluadores integrados equivalente al propuesto por Amodei. 2332

Un ecosistema, no una carrera de ganador único

Nadella añade al debate una dimensión económica e institucional. Sostiene que los beneficios de la IA deben distribuirse entre países, comunidades y empresas, lo que exige un «ecosistema de frontera» donde puedan prosperar tanto los modelos cerrados como los de código abierto. 58

Para las organizaciones, el objetivo es preservar la autonomía sobre el conocimiento institucional: deberían mantener el control de su conocimiento singular y tácito, y construir sus propios ciclos continuos de aprendizaje sin depender de un único proveedor de modelos. 58

La propuesta va más allá de limitar el comportamiento de una IA. Sugiere que la seguridad, la resiliencia y la participación económica se debilitan si las capacidades de frontera y el conocimiento quedan concentrados en un grupo muy reducido de proveedores. El material disponible respalda el control empresarial sobre datos, conocimiento y ciclos de aprendizaje, pero no demuestra que todos los participantes conserven los pesos de los modelos o acceso a todos los sistemas subyacentes. 58

Qué significa MAI

MAI es la familia de modelos desarrollados internamente por Microsoft AI. Los materiales públicos de Microsoft muestran sistemas en varios ámbitos: MAI-Thinking-1 se ha ofrecido en vista previa pública mediante Microsoft Foundry; MAI-Code-1.1-Flash está orientado a tareas de programación con agentes; y la documentación de MAI-Image-2.6 describe objetivos de alineación para reducir la generación de imágenes dañinas o inapropiadas. 272819

No existe en los registros públicos una lista única y completa de todas las capacidades de MAI, sus planes de lanzamiento o sus condiciones de distribución. Esa falta de detalle importa al evaluar hasta qué punto el nuevo código se aplicará realmente.

La tensión pendiente: seguridad, velocidad y competencia global

Quienes piden acompasar el desarrollo no necesariamente reclaman detener el entrenamiento de modelos ni el progreso técnico. Su argumento es que el aumento de capacidades debe dejar tiempo suficiente para trabajar en alineación, implantar salvaguardas y someter los sistemas a una evaluación externa creíble. 34

Esa propuesta convive con la presión geopolítica por mantener el liderazgo tecnológico, incluida la preocupación por la competencia con China. El propio marco de Amodei combina medidas de seguridad más firmes con cooperación internacional y el reto de preservar el liderazgo de Estados Unidos. 32

La respuesta de Nadella no es una congelación ni una agenda de aceleración sin frenos. Propone un progreso gobernado: una IA muy capaz, pero controlada por personas; compromisos de seguridad convertidos en restricciones operativas concretas; y beneficios distribuidos de forma amplia en lugar de concentrados. El borrador del código de Microsoft es un paso visible para especificar esas restricciones. La cuestión más difícil sigue abierta: si las prácticas de seguridad del sector podrán avanzar al mismo ritmo que las capacidades de la IA de frontera. 2358