RespuestasPublicado25 fuentes
Andrew Ng rechaza el alarmismo sobre la extinción por IA y reclama seguridad basada en ingeniería
Andrew Ng dijo que las advertencias de que la IA podría causar la extinción humana son «mucho más ciencia ficción que ciencia» y rechazó una desaceleración generalizada del sector. Su propuesta no pasa por ignorar la seguridad, sino por tratarla como un problema de ingeniería: probar los sistemas, incorporar salvagu...
Publicado porEditado con GPT-5.6 TerraImágenes generadas con GPT Image 2
Respuesta de investigación
Conclusiones clave
- Andrew Ng dijo que las advertencias de que la IA podría causar la extinción humana son «mucho más ciencia ficción que ciencia» y rechazó una desaceleración generalizada del sector.
- Su propuesta no pasa por ignorar la seguridad, sino por tratarla como un problema de ingeniería: probar los sistemas, incorporar salvaguardas y corregir fallos de forma continua.
- El debate divide a quienes quieren acompasar el avance de los modelos más avanzados —como Dario Amodei, Sam Altman, Jacob Coxon y Geoffrey Hinton— y quienes rechazan una pausa amplia por motivos técnicos, regulatorios...
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Andrew Ng no dijo que la inteligencia artificial sea inocua. Su tesis es otra: las afirmaciones sobre una extinción humana inminente son demasiado especulativas como para convertirse en el eje de la política pública sobre IA. En una entrevista con Bloomberg TV el 17 de septiembre, el cofundador de Google Brain calificó esos temores de «mucho más ciencia ficción que ciencia» y defendió abordar la seguridad como una disciplina de ingeniería: probar los sistemas, añadir salvaguardas y mejorarlas con el tiempo. 2
La objeción de Ng al riesgo de extinción
Ng reconoció que los sistemas de IA nunca serán perfectamente predecibles. Pero, a su juicio, esa falta de predictibilidad no demuestra que la sociedad deba frenar de forma generalizada el desarrollo de la tecnología. Las pruebas, las protecciones y el trabajo de ingeniería pueden aumentar su seguridad de manera progresiva, afirmó. También advirtió de que ralentizar ampliamente el desarrollo podría, a su vez, ralentizar los avances en seguridad. 2
Su desacuerdo con las advertencias sobre una IA incontrolable se centra, por tanto, en qué debe priorizarse. Para Ng, la agenda de seguridad más útil empieza por fallos observables y riesgos que puedan medirse y corregirse, no por hipótesis de extinción.
Por qué cuestiona el relato apocalíptico
Ng sostuvo que las advertencias sobre riesgos existenciales pueden perjudicar la posibilidad de que la sociedad aproveche al máximo los beneficios de la IA. También dijo que la industria tecnológica ya había alimentado antes, durante el auge de la IA, temores sobre daños catastróficos, aparentemente para ganar visibilidad e influir en la regulación. 1
Es un argumento que apunta tanto al riesgo como a los incentivos: los mensajes dramáticos atraen atención, y el diseño de la regulación puede determinar quién asume el coste de cumplirla. Ng no planteó abandonar la seguridad; rechazó tratar los escenarios de extinción como ciencia establecida o utilizarlos para justificar una pausa de gran alcance.
Qué seguridad propone priorizar
La alternativa de Ng es reducir riesgos prácticos. La cobertura de su entrevista identificó la ciberseguridad y otras salvaguardas concretas como prioridades. 5
En la práctica, su enfoque incluye:
- Pruebas rigurosas antes y durante el despliegue de los sistemas.
- Salvaguardas y límites operativos para restringir fallos ya conocidos.
- Mejoras iterativas de ingeniería para elevar la fiabilidad a medida que aparezcan nuevos problemas.
- Atención a daños previsibles, incluidos los riesgos de ciberseguridad, en vez de concentrar la política en escenarios de extinción.
2
5
Este planteamiento no promete un control perfecto. Defiende que una tecnología útil puede alcanzar niveles aceptables de fiabilidad mediante evaluación continua y mejoras sucesivas, como ocurre en otros ámbitos de la ingeniería.
En qué difiere del grupo que pide bajar el ritmo
Varias figuras destacadas de la IA coinciden en que la seguridad requiere mayor atención, pero llegan a una conclusión mucho más contundente sobre la velocidad de desarrollo de los modelos de frontera, es decir, los sistemas más avanzados.
Jacob Coxon: una estimación mucho más alta del peligro
Jacob Coxon, exinvestigador de Anthropic y OpenAI, dimitió de Anthropic y advirtió de que el avance rápido hacia sistemas capaces de mejorarse a sí mismos podría ser catastrófico. Consideró necesaria una desaceleración y después celebró la propuesta de Anthropic de acompasar el desarrollo. 33
43
Dario Amodei: ganar tiempo para las salvaguardas
El director ejecutivo de Anthropic, Dario Amodei, pidió a las empresas reducir el ritmo al que mejoran las capacidades de sus modelos. Su objetivo declarado es ganar tiempo para gestionar los riesgos, incluso mediante un marco con evaluadores independientes. 18
Sam Altman: apoyo a acompasar la frontera
El director ejecutivo de OpenAI, Sam Altman, respaldó la premisa básica de la propuesta de Amodei y comprometió a OpenAI con una de sus medidas: permitir que evaluadores externos tengan un acceso relevante para valorar las prácticas de seguridad. 19
24
Geoffrey Hinton: preocupación por la pérdida de control
Geoffrey Hinton ha dicho que existe un «riesgo significativo» de que la IA escape al control humano. Apoyó una desaceleración y medidas como las pruebas previas al lanzamiento, al considerar que los gobiernos se han movido demasiado despacio. 20
La diferencia práctica se refiere tanto a la probabilidad como a la respuesta política. Coxon, Amodei, Altman y Hinton consideran suficientemente plausibles los riesgos de pérdida de control como para justificar un ritmo deliberadamente más lento en los sistemas más avanzados. Ng, en cambio, considera que las tesis de extinción no están lo bastante fundamentadas y quiere concentrar el trabajo de seguridad en fallos concretos y tratables. 2
18
20
Coincidencias limitadas con quienes rechazan frenar la IA
La oposición de Ng a una desaceleración amplia no significa que comparta todos los argumentos de dirigentes políticos y ejecutivos que también la rechazan.
- Jensen Huang: el director ejecutivo de Nvidia afirmó que la industria no necesita nuevas leyes ni regulaciones.
53
- Mark Zuckerberg: el director ejecutivo de Meta sostuvo que no hace falta una desaceleración sectorial porque la competencia y los incentivos de mercado empujarán a las empresas a hacer seguros sus modelos.
55
- El presidente Donald Trump: Trump desestimó los temores sobre una IA fuera de control como un «engaño» y dijo que Estados Unidos ya cuenta con instrumentos para regular y procesar a las empresas de IA.
49
50
- Autoridades chinas: un portavoz del Ministerio de Exteriores de China rechazó los llamamientos a ralentizar el desarrollo de la IA de frontera.
Todas esas posiciones llegan a una conclusión parecida sobre una pausa generalizada, pero por razones distintas. El argumento de Ng es principalmente técnico: centrarse en daños medibles y construir controles mejores. Huang, Zuckerberg, Trump y las autoridades chinas han enfatizado, en distinto grado, su oposición a nuevas restricciones, los incentivos de mercado o la competencia y la estrategia nacional. 2
50
52
53
55
Un punto de encuentro: el riesgo cibernético
El debate no se divide limpiamente entre quienes se preocupan por la seguridad y quienes no. Aidan Gomez, director ejecutivo de Cohere, afirmó por ejemplo que los modelos de IA se han convertido en armas cibernéticas muy potentes porque pueden detectar y explotar vulnerabilidades a gran escala. 62 Esa preocupación se acerca al llamamiento de Ng a abordar riesgos concretos de ciberseguridad, aunque la información disponible no permite establecer la posición completa de Gomez sobre una desaceleración sectorial o la gobernanza internacional de la IA.
Del mismo modo, las fuentes disponibles no ofrecen base suficiente para caracterizar la postura del inversor Steve Eisman sobre la desaceleración, la investigación en seguridad, la regulación y la gobernanza internacional.
La clave del planteamiento de Ng
La intervención de Ng reformula la discusión sobre seguridad en IA. La cuestión no es si la IA debe ser más segura, sino si los escenarios especulativos de extinción deben dirigir toda la agenda. Su respuesta es no: hay que priorizar pruebas, salvaguardas e ingeniería contra daños presentes e identificables, y evitar una desaceleración indiscriminada que, según sostiene, podría frenar tanto la innovación como el progreso en seguridad. 1
2
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
La gente también pregunta
¿Cuál es la respuesta corta a "Andrew Ng rechaza el alarmismo sobre la extinción por IA y reclama seguridad basada en ingeniería"?
Andrew Ng dijo que las advertencias de que la IA podría causar la extinción humana son «mucho más ciencia ficción que ciencia» y rechazó una desaceleración generalizada del sector.
¿Cuáles son los puntos clave a validar primero?
Andrew Ng dijo que las advertencias de que la IA podría causar la extinción humana son «mucho más ciencia ficción que ciencia» y rechazó una desaceleración generalizada del sector. Su propuesta no pasa por ignorar la seguridad, sino por tratarla como un problema de ingeniería: probar los sistemas, incorporar salvaguardas y corregir fallos de forma continua.
¿Qué debo hacer a continuación en la práctica?
El debate divide a quienes quieren acompasar el avance de los modelos más avanzados —como Dario Amodei, Sam Altman, Jacob Coxon y Geoffrey Hinton— y quienes rechazan una pausa amplia por motivos técnicos, regulatorios...