El punto en común: la concentración de poder es el verdadero peligro

Los tres oradores rechazaron la idea de encerrar la IA dentro de un puñado de laboratorios bien financiados como respuesta a las preocupaciones de seguridad. Su argumento central compartido: concentrar el poder en unas pocas empresas es un peligro mayor que los riesgos de la distribución abierta. Les preocupaba que el control de acceso (gatekeeping) frenara la innovación, afianzara a los gigantes establecidos y permitiera que unas pocas firmas decidieran qué puede construir el resto del mundo .

Yun-Hee Kim presentó la sesión como una convergencia histórica, y en este punto fundamental, los tres pioneros efectivamente convergieron. Pero en cuanto la conversación pasó de los principios a la práctica, el consenso se fracturó.

Los cinco puntos de desacuerdo

1. Modelos de pesos abiertos: una distinción que divide

Geoffrey Hinton trazó una línea clara entre el código abierto (open source) y los modelos de pesos abiertos (open weights). "El código abierto es genial. Muestras el código a la gente, y mucha gente mira las líneas de código y dice: 'Oh, hay un error'. Los pesos abiertos significan que entrenas un modelo grande y luego le das los pesos a la gente. Eso es muy diferente", dijo. Advirtió que los pesos liberados hacen que el ajuste fino para ciberataques sea barato y fácil — pero también concedió que la batalla está efectivamente perdida: "Creo que esa batalla ya está perdida… Es demasiado tarde" .

Andrew Ng se mostró mucho más cómodo con la distribución de pesos abiertos. Lo planteó como un problema de competitividad y señaló que cuando su equipo necesitó hacer una revisión de seguridad de su herramienta de agente de código abierto OpenWorker, recurrieron a modelos chinos de pesos abiertos como Kimi K3 y GLM-5.2 porque los modelos cerrados estadounidenses se negaron a ayudar. "Por lo que estoy viendo, creo que los modelos de pesos abiertos me parecen más seguros que los modelos de pesos cerrados", dijo Ng .

Fei-Fei Li rechazó la dicotomía por completo, calificando el marco de "abierto versus cerrado" como una falsa dicotomía. Abogó por un enfoque más matizado y específico por sector, en lugar de tratar la apertura como una elección de todo o nada .

2. Control de acceso (Gatekeeping): la lucha central de Ng

Ng fue el más vocal en este punto: "No quiero que haya guardianes (gatekeepers). Eso limita cómo todos podemos acceder a la IA". Acusó a las grandes empresas de exagerar los peligros de la IA específicamente para asegurarse ventajas regulatorias y congelar a los competidores más pequeños. Su receta: "promover la apertura… porque la IA es una tecnología increíble y quiero que esté en manos de todos" .

Hinton y Li coincidieron en que un puñado de laboratorios no debería controlar la trayectoria de la IA, aunque Hinton estaba mucho más preocupado por los riesgos de una distribución sin restricciones .

3. Competencia con China: una paradoja incómoda

Ng enmarcó explícitamente la apertura como un problema de poder blando y competitividad frente a los modelos de pesos abiertos chinos. Argumentó que si Estados Unidos restringe los modelos abiertos, el ecosistema de pesos abiertos de China, que mejora rápidamente —incluyendo Qwen 3.8-Max de Alibaba y GLM-5.2 de Zhipu— se adelantará . Señaló una paradoja: los modelos abiertos chinos estaban ayudando a los investigadores de seguridad estadounidenses a hacer un trabajo que los modelos cerrados estadounidenses bloqueaban .

Hinton reconoció la presión competitiva pero siguió más preocupado por el mal uso. Veía al genio ya fuera de la botella, independientemente de las políticas estadounidenses .

4. Regulación: ¿cuánta y quién se beneficia?

Los tres coincidieron en que se necesita cierta regulación, pero discreparon marcadamente sobre el alcance y el enfoque .

• Hinton pidió pruebas de seguridad obligatorias antes del lanzamiento y la divulgación completa de los resultados al gobierno: quiere una línea de base mínima aplicada por los reguladores . Describió la regulación como "el volante, no los frenos" de un coche .
• Li abogó por una regulación específica por sector en lugar de reglas generales, argumentando que la IA transforma las tareas de manera diferente según la industria y que las ganancias de productividad no se traducen automáticamente en prosperidad compartida .
• Ng fue el más escéptico respecto a la regulación de arriba hacia abajo. Advirtió que podría ser capturada por los gigantes establecidos y utilizada para afianzar sus ventajas. Prefería promover la competencia y la apertura como salvaguarda principal .

5. ¿Es la apertura una elección de todo o nada?

Aquí el panel expuso su división más profunda. Li calificó explícitamente el marco binario como falso — argumentó a favor de un camino intermedio donde la apertura se calibra por sector, nivel de riesgo y caso de uso . Hinton estuvo efectivamente de acuerdo en que no es binario, pero desde el ángulo opuesto: quería un mundo donde los pesos pudieran ser abiertos con bloqueos de seguridad, aunque ya no cree que ese mundo sea alcanzable . Ng se inclinó más hacia una postura de todo o nada: la apertura era el remedio central, y se resistió a las excepciones que pudieran ser explotadas por los gigantes .

En resumen: el mismo destino, mapas diferentes

Los tres pioneros se mantuvieron unidos contra un futuro donde un puñado de laboratorios controla la IA, pero se dividieron marcadamente sobre el vehículo. Hinton aceptó a regañadientes los pesos abiertos como inevitables mientras temía su mal uso. Ng abrazó la apertura como la cura principal para la concentración de poder y una necesidad estratégica frente a China. Li rechazó la dicotomía por completo y pidió reglas calibradas y específicas por sector. El debate capturó la tensión honesta en la gobernanza de la IA en 2026: la misma distribución abierta que democratiza el acceso también hace que el uso catastrófico sea más difícil de contener.

El punto en común: la concentración de poder es el verdadero peligro

Los tres oradores rechazaron la idea de encerrar la IA dentro de un puñado de laboratorios bien financiados como respuesta a las preocupaciones de seguridad. Su argumento central compartido: concentrar el poder en unas pocas empresas es un peligro mayor que los riesgos de la distribución abierta. Les preocupaba que el control de acceso (gatekeeping) frenara la innovación, afianzara a los gigantes establecidos y permitiera que unas pocas firmas decidieran qué puede construir el resto del mundo .

Yun-Hee Kim presentó la sesión como una convergencia histórica, y en este punto fundamental, los tres pioneros efectivamente convergieron. Pero en cuanto la conversación pasó de los principios a la práctica, el consenso se fracturó.

Los cinco puntos de desacuerdo

1. Modelos de pesos abiertos: una distinción que divide

Geoffrey Hinton trazó una línea clara entre el código abierto (open source) y los modelos de pesos abiertos (open weights). "El código abierto es genial. Muestras el código a la gente, y mucha gente mira las líneas de código y dice: 'Oh, hay un error'. Los pesos abiertos significan que entrenas un modelo grande y luego le das los pesos a la gente. Eso es muy diferente", dijo. Advirtió que los pesos liberados hacen que el ajuste fino para ciberataques sea barato y fácil — pero también concedió que la batalla está efectivamente perdida: "Creo que esa batalla ya está perdida… Es demasiado tarde" .

Andrew Ng se mostró mucho más cómodo con la distribución de pesos abiertos. Lo planteó como un problema de competitividad y señaló que cuando su equipo necesitó hacer una revisión de seguridad de su herramienta de agente de código abierto OpenWorker, recurrieron a modelos chinos de pesos abiertos como Kimi K3 y GLM-5.2 porque los modelos cerrados estadounidenses se negaron a ayudar. "Por lo que estoy viendo, creo que los modelos de pesos abiertos me parecen más seguros que los modelos de pesos cerrados", dijo Ng .

Fei-Fei Li rechazó la dicotomía por completo, calificando el marco de "abierto versus cerrado" como una falsa dicotomía. Abogó por un enfoque más matizado y específico por sector, en lugar de tratar la apertura como una elección de todo o nada .

2. Control de acceso (Gatekeeping): la lucha central de Ng

Ng fue el más vocal en este punto: "No quiero que haya guardianes (gatekeepers). Eso limita cómo todos podemos acceder a la IA". Acusó a las grandes empresas de exagerar los peligros de la IA específicamente para asegurarse ventajas regulatorias y congelar a los competidores más pequeños. Su receta: "promover la apertura… porque la IA es una tecnología increíble y quiero que esté en manos de todos" .

Hinton y Li coincidieron en que un puñado de laboratorios no debería controlar la trayectoria de la IA, aunque Hinton estaba mucho más preocupado por los riesgos de una distribución sin restricciones .

3. Competencia con China: una paradoja incómoda

Ng enmarcó explícitamente la apertura como un problema de poder blando y competitividad frente a los modelos de pesos abiertos chinos. Argumentó que si Estados Unidos restringe los modelos abiertos, el ecosistema de pesos abiertos de China, que mejora rápidamente —incluyendo Qwen 3.8-Max de Alibaba y GLM-5.2 de Zhipu— se adelantará . Señaló una paradoja: los modelos abiertos chinos estaban ayudando a los investigadores de seguridad estadounidenses a hacer un trabajo que los modelos cerrados estadounidenses bloqueaban .

Hinton reconoció la presión competitiva pero siguió más preocupado por el mal uso. Veía al genio ya fuera de la botella, independientemente de las políticas estadounidenses .

4. Regulación: ¿cuánta y quién se beneficia?

Los tres coincidieron en que se necesita cierta regulación, pero discreparon marcadamente sobre el alcance y el enfoque .

• Hinton pidió pruebas de seguridad obligatorias antes del lanzamiento y la divulgación completa de los resultados al gobierno: quiere una línea de base mínima aplicada por los reguladores . Describió la regulación como "el volante, no los frenos" de un coche .
• Li abogó por una regulación específica por sector en lugar de reglas generales, argumentando que la IA transforma las tareas de manera diferente según la industria y que las ganancias de productividad no se traducen automáticamente en prosperidad compartida .
• Ng fue el más escéptico respecto a la regulación de arriba hacia abajo. Advirtió que podría ser capturada por los gigantes establecidos y utilizada para afianzar sus ventajas. Prefería promover la competencia y la apertura como salvaguarda principal .

5. ¿Es la apertura una elección de todo o nada?

Aquí el panel expuso su división más profunda. Li calificó explícitamente el marco binario como falso — argumentó a favor de un camino intermedio donde la apertura se calibra por sector, nivel de riesgo y caso de uso . Hinton estuvo efectivamente de acuerdo en que no es binario, pero desde el ángulo opuesto: quería un mundo donde los pesos pudieran ser abiertos con bloqueos de seguridad, aunque ya no cree que ese mundo sea alcanzable . Ng se inclinó más hacia una postura de todo o nada: la apertura era el remedio central, y se resistió a las excepciones que pudieran ser explotadas por los gigantes .

En resumen: el mismo destino, mapas diferentes

Los tres pioneros se mantuvieron unidos contra un futuro donde un puñado de laboratorios controla la IA, pero se dividieron marcadamente sobre el vehículo. Hinton aceptó a regañadientes los pesos abiertos como inevitables mientras temía su mal uso. Ng abrazó la apertura como la cura principal para la concentración de poder y una necesidad estratégica frente a China. Li rechazó la dicotomía por completo y pidió reglas calibradas y específicas por sector. El debate capturó la tensión honesta en la gobernanza de la IA en 2026: la misma distribución abierta que democratiza el acceso también hace que el uso catastrófico sea más difícil de contener.