Jensen Huang rechaza nuevas leyes para la IA: el debate de seguridad en Dreamforce

Jensen Huang dejó clara su posición en Dreamforce 2026, el evento anual de Salesforce: el rápido avance de la inteligencia artificial y su seguridad no son objetivos incompatibles. El CEO de Nvidia sostuvo que la industria no necesita nuevas leyes o regulaciones específicas para la IA, porque los desarrolladores responsables pueden crear, probar y desplegar sistemas de forma segura sin renunciar a la velocidad de innovación.

La postura sitúa a Huang en uno de los lados de una discusión cada vez más intensa: ¿deben marcar el ritmo las compañías que desarrollan los modelos más avanzados o deberían hacerlo evaluadores externos y los gobiernos?

Para Huang, la seguridad es ante todo un problema de ingeniería

Huang rechazó que las empresas tengan que escoger entre avanzar deprisa y lanzar productos seguros. En su planteamiento, esa es una «falsa disyuntiva». Los desarrolladores de IA deben acelerar, pero también conservar el control de sus sistemas, someterlos a pruebas rigurosas y no publicar aquello que no esté preparado.

La distinción es relevante: Huang no presentó la seguridad como algo secundario. La definió como una responsabilidad técnica y operativa de los laboratorios que construyen los sistemas, no como una razón para imponer un freno regulatorio general al desarrollo.

También se mostró escéptico ante las advertencias sobre una posible extinción humana como marco principal para evaluar los riesgos de la IA. Eso no supone necesariamente descartar la revisión externa. Según la información disponible, acepta la utilidad de evaluadores independientes siempre que los laboratorios capaces mantengan el control y las pruebas de seguridad sean sustantivas, no un mero trámite.

La llamada con Trump en el All-In Summit

La postura expresada en Dreamforce fue coherente con lo que Huang dijo en el All-In Summit. Allí describió las decisiones de «pausar» o «acompasar» el desarrollo como medidas voluntarias que una empresa podría tomar si considerara que ha perdido el control de sus sistemas.

Donald Trump, que llamó a Huang durante el evento, fue todavía más tajante al desestimar las advertencias que piden ralentizar la IA. El punto de partida compartido fue que Estados Unidos debe preservar el impulso de su sector de IA, en vez de imponer una desaceleración regulatoria de gran alcance.

Pero esa preferencia de política pública no demuestra que todos los riesgos puedan gestionarse mediante decisiones voluntarias. La cuestión de fondo es si compañías sometidas a una competencia intensa pueden decidir de manera fiable, por iniciativa propia, cuándo retrasar un lanzamiento potencialmente rentable.

La posición contraria: acompasar las capacidades para que alcancen las salvaguardas

Dario Amodei, CEO de Anthropic, ha pedido reducir el ritmo al que mejoran las capacidades de los modelos de frontera —los sistemas más potentes—. No propone abandonar el desarrollo de IA, sino ganar tiempo para que la investigación de seguridad, la supervisión y la gobernanza se pongan al día. Su propuesta incluye pruebas de seguridad más sólidas y evaluadores independientes con acceso significativo a las principales empresas del sector. 14

Sam Altman y Elon Musk respaldaron públicamente el llamamiento general de Amodei a una mayor cautela. Altman afirmó que OpenAI recibiría a evaluadores independientes con un nivel de acceso similar al de empleados, mientras Musk escribió: «Dario tiene razón». 49

La división, por tanto, va más allá de una disputa simple entre dirigentes «a favor» o «en contra» de la IA:

• La visión de Huang: avanzar rápido y resolver la seguridad mediante ingeniería competente, pruebas y decisiones responsables sobre los lanzamientos.
• La visión de Amodei: acompasar deliberadamente las mejoras de capacidad en la frontera para que la supervisión independiente y las medidas de seguridad puedan seguir el ritmo.
• La posición expresada por Altman y Musk: respaldar más cautela y evaluación independiente, aunque los detalles prácticos de una ralentización para toda la industria siguen siendo objeto de disputa. 14

Los evaluadores independientes, un punto de posible coincidencia

El debate no es completamente binario. La propuesta de Amodei contempla evaluadores externos integrados en las empresas, con capacidad para comprobar si estas cumplen las prácticas de seguridad que dicen aplicar. 312

La apertura atribuida a Huang hacia esos evaluadores apunta a un espacio más limitado de acuerdo: la revisión externa puede ser útil, pero no tiene por qué implicar un nuevo régimen regulatorio ni una desaceleración obligatoria. La discrepancia real está en la autoridad y el cumplimiento. ¿Serían asesores y auditores que trabajan junto a las compañías, o formarían parte de un sistema vinculante capaz de exigir una pausa?

Los centros de datos plantean otra clase de preocupación

La inquietud pública por los centros de datos locales está relacionada con el auge de la IA, pero es distinta de las advertencias sobre la pérdida de control de modelos avanzados. Las comunidades pueden centrarse en efectos inmediatos de estas instalaciones: demanda eléctrica, uso de agua, emisiones, ocupación de suelo, ruido y presión sobre las infraestructuras locales.

Estas preocupaciones no prueban que la IA represente una amenaza de extinción. Sí reflejan que la expansión de la infraestructura de IA puede tener consecuencias sociales y medioambientales que se viven a escala local, mientras gran parte de los beneficios económicos y de las decisiones estratégicas se concentran en otros lugares.

El material disponible para este artículo no permite establecer cuán extendida está esa oposición, por lo que no debe presentarse como una tendencia nacional o global cuantificada.

Qué se juega Nvidia

El negocio de Nvidia depende estrechamente de que continúe la inversión en entrenamiento y despliegue de IA. El acuerdo reportado de 12.900 millones de dólares para adquirir Hugging Face ampliaría su papel más allá de los chips y la infraestructura de centros de datos, acercándola a una plataforma clave de modelos, conjuntos de datos y desarrolladores. 17

Por ello, es razonable inferir que unas normas que retrasaran de forma sustancial el entrenamiento de modelos, su despliegue o la construcción de centros de datos podrían afectar a la demanda en el ecosistema de IA cada vez más amplio de Nvidia. Es un incentivo comercial ligado a la posición de la compañía, no una prueba del motivo personal de Huang ni de que sus argumentos sobre seguridad sean insinceros.

La cuestión sin resolver

El argumento de Huang en Dreamforce apuesta por la responsabilidad de los desarrolladores: la IA puede progresar con rapidez si las empresas que la construyen conservan el control, prueban a fondo sus sistemas y se niegan a publicar productos inseguros. La tesis rival de Amodei apuesta por una cadencia deliberada y un escrutinio independiente: los sistemas de frontera podrían ganar capacidades demasiado deprisa como para que las salvaguardas voluntarias resulten suficientes. 14

La discusión no gira sobre si la seguridad importa. Gira sobre si debe seguir siendo principalmente una disciplina de ingeniería dentro de los laboratorios de IA o si la escala y el posible impacto de estos sistemas exigen controles externos exigibles antes del próximo salto de capacidad.