RespuestasPublicado22 fuentes
Andrew Ng rechaza los temores de extinción por IA: «más ciencia ficción que ciencia»
Andrew Ng sostuvo que la hipótesis de una extinción humana causada por IA es «más ciencia ficción que ciencia». Para Ng, que los sistemas no sean perfectamente predecibles es un desafío de ingeniería y seguridad, no un motivo para detener de forma amplia el desarrollo.
Publicado porImágenes generadas con GPT Image 2
Respuesta de investigación
Conclusiones clave
- Andrew Ng sostuvo que la hipótesis de una extinción humana causada por IA es «más ciencia ficción que ciencia».
- Para Ng, que los sistemas no sean perfectamente predecibles es un desafío de ingeniería y seguridad, no un motivo para detener de forma amplia el desarrollo.
- El investigador pidió centrar los esfuerzos en pruebas, salvaguardas y riesgos observables, como los vinculados a la ciberseguridad.
- Su posición contrasta con la de líderes y expertos que proponen ralentizar las capacidades de los modelos más avanzados para ganar tiempo en la gestión de riesgos.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
Andrew Ng rechazó la idea de que la inteligencia artificial probablemente vaya a provocar la extinción humana. En su entrevista del 17 de septiembre en Bloomberg TV, el pionero de la IA describió esas advertencias como «mucho más ciencia ficción que ciencia». 10
Su argumento no es que la seguridad deba ignorarse. Ng reconoce que los sistemas de IA nunca serán perfectamente predecibles, pero sostiene que ese límite debe abordarse como un problema técnico: pruebas rigurosas, salvaguardas, evaluación continua y mejoras de ingeniería pueden hacer que los sistemas sean suficientemente fiables con el tiempo. 10
Por qué cuestiona el discurso apocalíptico
Ng advirtió que la retórica sobre riesgos existenciales puede desviar la atención de los beneficios que la IA podría aportar a la sociedad. También señaló que, en etapas anteriores del auge de esta tecnología, el sector alimentó temores sobre daños catastróficos, aparentemente para obtener publicidad e influir en el diseño de la regulación. 8
En otras palabras, su reparo no es solo científico —considera especulativa la hipótesis de la extinción—, sino también político y empresarial: un debate regulatorio construido alrededor de escenarios extremos puede terminar definiendo cómo se gobierna el sector. 8
10
Ng añadió una objeción práctica a la propuesta de frenar ampliamente la IA: una desaceleración general también podría retrasar avances en la propia seguridad de estos sistemas. 10
Qué priorizaría: riesgos concretos y controles verificables
En vez de orientar el debate principalmente hacia un desenlace existencial, Ng propone concentrarse en fallos previsibles y medibles. Entre ellos mencionó la ciberseguridad, junto con otros daños concretos que puedan detectarse, evaluarse y mitigarse. 10
Su enfoque puede resumirse así:
- realizar pruebas antes y durante el despliegue;
- incorporar barreras y controles de seguridad;
- medir fallos y corregirlos de manera iterativa;
- tratar la fiabilidad como una disciplina de ingeniería, no como una promesa de certeza absoluta.
10
El contraste: quienes piden bajar el ritmo
La postura de Ng difiere de la de investigadores y ejecutivos que creen que el riesgo de perder el control sobre sistemas muy avanzados es lo bastante plausible como para justificar una ralentización deliberada.
Jacob Coxon, exinvestigador de OpenAI y Anthropic, abandonó Anthropic y alertó de que el avance rápido y poco controlado, especialmente hacia sistemas capaces de mejorarse a sí mismos, podría desembocar en una catástrofe. Por ello pidió reducir el ritmo. 2
14
Dario Amodei, director ejecutivo de Anthropic, planteó desacelerar el avance de las capacidades de los modelos de frontera —los sistemas más avanzados— para ganar tiempo en la gestión de riesgos. Su propuesta incluye evaluadores independientes y un marco de tres pasos; no pide poner fin a la investigación, sino acompasar las capacidades con la seguridad y la gobernanza. 3
6
Sam Altman, director ejecutivo de OpenAI, respaldó la premisa general de reducir el ritmo y de reforzar las salvaguardas, en un contexto de preocupación por sistemas que los humanos podrían no controlar. 1
19
Geoffrey Hinton también considera que existe un riesgo significativo de que la IA escape al control humano. Apoya un desarrollo más lento y medidas como pruebas antes de lanzar nuevos sistemas, al considerar insuficiente la respuesta de los gobiernos. 16
La diferencia central es de probabilidad y de prioridad pública: Amodei, Coxon, Altman y Hinton tratan el riesgo de pérdida de control como una razón para acompasar el desarrollo de los modelos de frontera; Ng lo ve como una hipótesis demasiado especulativa y prefiere abordar los daños cercanos mediante prácticas técnicas de seguridad. 3
10
16
Coincidencias parciales con quienes rechazan una pausa
Ng coincide con algunos dirigentes empresariales y políticos en rechazar una ralentización generalizada, aunque sus motivos no son idénticos.
Jensen Huang, director ejecutivo de Nvidia, ha dicho que el sector no necesita nuevas leyes ni regulaciones específicas sobre IA. 17
El presidente Donald Trump desestimó los peligros de la IA como un «engaño» y sostuvo que Estados Unidos ya cuenta con herramientas para regular y perseguir conductas indebidas. Su énfasis ha estado en no limitar la competitividad estadounidense, especialmente frente a China. 5
7
Por su parte, un portavoz del Ministerio de Relaciones Exteriores de China también rechazó los llamamientos a frenar la IA de frontera. 11
Ng llega a una conclusión parecida sobre no imponer una pausa amplia, pero desde una lógica distinta: no basa su postura en la competencia geopolítica ni en una oposición general a las reglas, sino en la idea de que la seguridad debe enfocarse en fallos comprobables y en controles de ingeniería que puedan mejorar con el tiempo. 10
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
La gente también pregunta
¿Cuál es la respuesta corta a "Andrew Ng rechaza los temores de extinción por IA: «más ciencia ficción que ciencia»"?
Andrew Ng sostuvo que la hipótesis de una extinción humana causada por IA es «más ciencia ficción que ciencia».
¿Cuáles son los puntos clave a validar primero?
Andrew Ng sostuvo que la hipótesis de una extinción humana causada por IA es «más ciencia ficción que ciencia». Para Ng, que los sistemas no sean perfectamente predecibles es un desafío de ingeniería y seguridad, no un motivo para detener de forma amplia el desarrollo.
¿Qué debo hacer a continuación en la práctica?
El investigador pidió centrar los esfuerzos en pruebas, salvaguardas y riesgos observables, como los vinculados a la ciberseguridad.
Fuentes
bbc.comAI staff 'genuinely frightened' for humanity's future, ex- ...
techcrunch.com'Gambling with our lives': Anthropic researcher quits, warns ...