RespuestasPublicado13 fuentes
Un exinvestigador de DeepMind advierte sobre el riesgo extremo de la IA
Bilal Chughtai, que dejó Google DeepMind en julio de 2026, afirmó que la IA tiene el potencial de “matarnos a todos” y que quizá se esté acabando el tiempo para evitarlo. Sus comentarios se suman a las advertencias de Jacob Coxon y Evan Hubinger, ambos vinculados a Anthropic, sobre los riesgos de sistemas de IA much...
Publicado porEditado con GPT-5.6 TerraImágenes generadas con GPT Image 2
Respuesta de investigación
Conclusiones clave
- Bilal Chughtai, que dejó Google DeepMind en julio de 2026, afirmó que la IA tiene el potencial de “matarnos a todos” y que quizá se esté acabando el tiempo para evitarlo.
- Sus comentarios se suman a las advertencias de Jacob Coxon y Evan Hubinger, ambos vinculados a Anthropic, sobre los riesgos de sistemas de IA mucho más avanzados.
- La disputa gira en torno al ritmo y la supervisión: unos reclaman pruebas, evaluaciones independientes y límites a despliegues peligrosos; otros temen perder ventaja frente a China.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
La advertencia de Bilal Chughtai es una alerta sobre riesgo existencial, no una predicción de que la inteligencia artificial vaya a destruir inevitablemente a la humanidad. Tras dejar Google DeepMind, donde dijo haber trabajado en seguridad y alineamiento de la inteligencia artificial general (AGI, por sus siglas en inglés), Chughtai escribió que la IA tiene el potencial de “matarnos a todos” y que quizá se esté agotando el tiempo para evitarlo.
Google no respondió de inmediato a una solicitud de comentarios fuera de su horario laboral habitual, según Reuters.
Qué preocupa a Chughtai
Su preocupación es que las capacidades de la IA avancen más deprisa que la capacidad humana de hacer esos sistemas seguros, previsibles y controlables. Chughtai cuestiona la trayectoria por defecto de la tecnología: una competencia entre compañías por desarrollar modelos más potentes antes de que existan salvaguardas suficientes, avances en alineamiento —el área que busca que los sistemas actúen conforme a objetivos humanos— y supervisión pública adecuada.
Su propuesta no es que una empresa actúe por cuenta propia. Pide coordinación para reducir la velocidad de la carrera: desarrollar IA a un ritmo que la sociedad pueda gestionar y resolver los riesgos emergentes antes de que se produzca un daño extremo. En sus palabras, las empresas deben coordinarse para evitar una “carrera maniática”.
Una preocupación compartida por otros investigadores
La salida de Chughtai se produjo después de varias declaraciones inusualmente directas de investigadores y directivos del sector sobre los riesgos catastróficos de sistemas avanzados.
Jacob Coxon, exinvestigador de Anthropic, explicó que dimitió porque consideraba irresponsable la carrera de los principales laboratorios hacia una superinteligencia capaz de mejorarse a sí misma. Coxon afirmó que quienes desarrollan IA creen sinceramente que podría destruir a la humanidad antes de que termine la década.
Evan Hubinger, investigador de alineamiento en Anthropic, coincidió públicamente con la preocupación de fondo y dijo que, en su estimación personal, la probabilidad de que la IA cause la extinción humana durante la próxima década supera el 10 %. Aun así, diferenció ese riesgo de los modelos actuales, que calificó como de bajo riesgo.
No son estimaciones empíricas concluyentes ni reflejan un consenso científico. El punto relevante es más acotado: algunas personas que trabajan cerca de los modelos de frontera consideran que el peor escenario es lo bastante grave como para justificar precauciones más firmes antes de que las capacidades sigan avanzando.
La propuesta: acompasar el desarrollo de la IA de frontera
El planteamiento de Chughtai coincide en parte con el defendido por Dario Amodei, consejero delegado de Anthropic: acompasar el desarrollo de los sistemas más avanzados mientras mejoran las medidas de seguridad y la supervisión externa. Informaciones periodísticas señalaron el respaldo a una desaceleración sectorial por parte de Sam Altman, CEO de OpenAI, y Elon Musk.
En la práctica, esta agenda no implica necesariamente prohibir de forma permanente la IA. El Advanced AI Framework de Anthropic propone obligaciones para los desarrolladores de los modelos más potentes, entre ellas:
- probar los sistemas ante riesgos catastróficos;
- recurrir a evaluadores externos e independientes;
- divulgar de forma continua las evaluaciones, los riesgos y los incidentes de seguridad; y
- exigir responsabilidad ante las autoridades, con capacidad gubernamental para disuadir o bloquear despliegues peligrosos.
1
Anthropic también plantea en su Política de Escalado Responsable un mecanismo condicional: si los modelos muestran determinadas capacidades peligrosas, no deberían desplegarse ni emplearse para entrenar sistemas aún más potentes hasta que se apliquen las salvaguardas necesarias. 8
El argumento contrario: el coste estratégico de frenar
El desacuerdo es tanto geopolítico como técnico. Los críticos de una ralentización advierten que unas restricciones estrictas podrían otorgar ventaja a Estados rivales o a compañías menos cautas.
El presidente de Estados Unidos, Donald Trump, reconoció que la IA podría requerir ciertas barreras de protección, pero restó importancia a las afirmaciones más alarmistas y dijo preocuparse por que Estados Unidos cediera su liderazgo frente a China.
Esa postura resume la tensión central: para unos, ralentizar la frontera de la IA es una medida esencial de gestión del riesgo; para otros, es una concesión estratégica que Estados Unidos no puede permitirse.
Qué acierta —y qué no demuestra— el “doomerismo” de la IA
El término AI doomerism suele emplearse para describir la creencia de que una IA avanzada podría crear un peligro de extinción. Pero la etiqueta puede ocultar la cuestión política de fondo: ¿qué evidencia de capacidades peligrosas debería activar más pruebas, límites de despliegue o intervención de las autoridades?
El argumento de Chughtai no demuestra que una catástrofe causada por IA sea inminente. Sostiene que equivocarse en seguridad podría tener consecuencias irreversibles y que los incentivos competitivos no garantizan por sí solos la cautela necesaria. La respuesta que propone es una gobernanza coordinada: ralentizar los despliegues cuando sea necesario, reforzar las evaluaciones y establecer responsabilidades claras antes de que los sistemas sean más difíciles de controlar. 1
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
La gente también pregunta
¿Cuál es la respuesta corta a "Un exinvestigador de DeepMind advierte sobre el riesgo extremo de la IA"?
Bilal Chughtai, que dejó Google DeepMind en julio de 2026, afirmó que la IA tiene el potencial de “matarnos a todos” y que quizá se esté acabando el tiempo para evitarlo.
¿Cuáles son los puntos clave a validar primero?
Bilal Chughtai, que dejó Google DeepMind en julio de 2026, afirmó que la IA tiene el potencial de “matarnos a todos” y que quizá se esté acabando el tiempo para evitarlo. Sus comentarios se suman a las advertencias de Jacob Coxon y Evan Hubinger, ambos vinculados a Anthropic, sobre los riesgos de sistemas de IA mucho más avanzados.
¿Qué debo hacer a continuación en la práctica?
La disputa gira en torno al ritmo y la supervisión: unos reclaman pruebas, evaluaciones independientes y límites a despliegues peligrosos; otros temen perder ventaja frente a China.