¿Puede la IA causar la extinción humana? El choque entre alarmas internas y exigencias de pruebas

El debate actual sobre una posible extinción humana causada por la inteligencia artificial no enfrenta, simplemente, a quienes creen que la IA es segura contra quienes la consideran peligrosa. La discusión de fondo es a qué velocidad podrían avanzar sus capacidades, qué tendría que ocurrir para que un modelo causara un daño irreversible y cuánta evidencia debe exigirse antes de imponer límites más estrictos.

Las advertencias de personas que han trabajado en los principales laboratorios han elevado la urgencia del asunto. A la vez, incluso voces que rechazan la retórica de la extinción suelen defender pruebas y prácticas de seguridad. La cuestión política y empresarial que se abre paso es si los desarrolladores pueden demostrar control y despliegues seguros a medida que sus sistemas ganan capacidad.

Las advertencias internas: una carrera hacia sistemas que quizá no se puedan controlar

Jacob Coxon, investigador que dejó Anthropic y que afirmó haber trabajado también en OpenAI, cuestionó en septiembre de 2026 que ambas compañías estuvieran dando prioridad a competir antes que a un desarrollo responsable. Según Coxon, avanzan hacia una «superinteligencia que se mejora a sí misma». 49

La advertencia recibió respaldo público de Evan Hubinger, responsable de ciencia de alineamiento en Anthropic. Hubinger afirmó que, en su valoración personal, existe una probabilidad superior al 10 % de que la IA mate a todos los seres humanos en la próxima década. También dijo que Anthropic aún no tiene un plan para resolver el problema de alinear una superinteligencia con objetivos humanos. 16 Esa cifra es una previsión individual, no un consenso científico ni una probabilidad calculada empíricamente. 12

Bilal Chughtai, exinvestigador de Google DeepMind, expresó una preocupación similar: considera que la IA puede acabar con toda la humanidad y que el tiempo para evitarlo podría estar agotándose. 2

Estas advertencias suelen ser condicionales; no sostienen que los chatbots actuales vayan a volverse peligrosos de repente por sí solos. El escenario temido parte de sistemas futuros capaces de acelerar de forma sustancial la investigación en IA, actuar con mayor autonomía, eludir una supervisión humana eficaz o ampliar el acceso a capacidades cibernéticas, biológicas e institucionales más rápido de lo que avanzan las medidas de seguridad. La plausibilidad y el calendario de esa cadena son precisamente el núcleo de la controversia.

Por qué una estimación del 10 % no es un pronóstico establecido

La cifra de Hubinger ha llamado la atención por su contundencia y por proceder de un investigador sénior especializado en alineamiento. Pero debe interpretarse con cautela: es un juicio personal ante una incertidumbre profunda, no una probabilidad validada con datos históricos ni el resultado de un modelo capaz de medir el riesgo de extinción. 12

Además, el pronóstico depende de varios supuestos aún sin resolver:

• Los sistemas de IA tendrían que superar ampliamente las capacidades de los modelos actuales.
• Esas capacidades tendrían que convertirse en autonomía estratégica sostenida o en poder dañino en el mundo real.
• Los controles técnicos, los operadores humanos, las instituciones y las contramedidas tendrían que fallar a la hora de contener al sistema o su uso indebido.
• La investigación en seguridad y alineamiento tendría que quedarse atrás respecto al aumento de capacidades.

Cada eslabón puede discutirse por separado. Eso no vuelve irrelevante la preocupación, pero sí impide tratar un porcentaje llamativo como una predicción demostrada.

La objeción escéptica: inteligencia digital no equivale a poder físico

Los escépticos cuestionan el salto entre rendir muy bien en tareas de software y lenguaje, y poder causar daños físicos a escala de extinción. Un ejemplo recurrente procede de la biología. Eric Xing ha argumentado que generar con un modelo de lenguaje el plano hipotético del genoma de un virus es radicalmente distinto de crear un virus viable: adquirir materiales, fabricarlo, comprobar su viabilidad biológica, trabajar en laboratorio y realizar ensayos son barreras independientes. 46

La diferencia importa. Un modelo puede aportar información o diseños, pero transformar eso en daño real puede requerir instalaciones especializadas, conocimientos tácitos, cadenas de suministro, experimentación repetida y acceso a materiales controlados. Estas restricciones no significan que el riesgo biológico sea nulo; sí cuestionan la idea de que la capacidad digital, por sí sola, otorgue de inmediato una capacidad física decisiva.

Jensen Huang, director ejecutivo de Nvidia, ha sido uno de los críticos más claros de las tesis de extinción y ha calificado de «completo disparate» la idea de que la IA vaya a acabar con la humanidad. 33 Mark Cuban, por su parte, ha planteado que las reacciones humanas ante afirmaciones alarmantes podrían ser más peligrosas que las propias enjambres de agentes de IA. 43

La posición escéptica no implica necesariamente que la IA de frontera no necesite salvaguardas. Su argumento es que las afirmaciones extraordinarias sobre una extinción inminente requieren pruebas más sólidas que extrapolaciones a partir del rendimiento actual de los modelos y rutas futuras especulativas.

La posición intermedia: acompasar las capacidades y verificar la seguridad

Una respuesta más operativa procede de dirigentes que ni dan la extinción por segura ni la descartan sin más. Dario Amodei, director ejecutivo de Anthropic, ha pedido reducir la velocidad de mejora de las capacidades de los modelos para ganar tiempo para el trabajo de seguridad. Su marco incluye evaluadores independientes integrados en las empresas, con acceso similar al de un empleado, y coordinación entre las compañías que desarrollan IA de frontera. 18

Reuters informó de que Sam Altman, director ejecutivo de OpenAI, figura entre los líderes que buscan una desaceleración coordinada, aunque el sector sigue dividido sobre el grado en que debe confiarse en salvaguardas guiadas por el mercado. 19 También se informó de que Altman respaldaba el uso de evaluadores externos dentro de este enfoque. 20

Este planteamiento desplaza la discusión de las predicciones abstractas a prácticas que puedan comprobarse:

1. Evaluación independiente: dar a revisores externos cualificados un acceso sustancial para examinar las afirmaciones de seguridad, en lugar de depender solo de lo que declaren las empresas. 18
2. Umbrales basados en capacidades: aumentar el escrutinio o restringir el despliegue cuando los modelos muestren avances relevantes en áreas peligrosas, como operaciones cibernéticas o comportamientos autónomos de agentes.
3. Coordinación entre laboratorios: reducir los incentivos para rebajar los márgenes de seguridad por miedo a quedarse atrás frente a la competencia. 18
4. Cooperación internacional: coordinar estándares entre gobiernos y grandes desarrolladores de IA, incluidos acuerdos que reduzcan la presión competitiva para desplegar sistemas sin salvaguardas suficientes. 27
5. Seguridad al ritmo de las capacidades: exigir que el control demostrado, la monitorización y la capacidad de respuesta avancen al mismo paso que sistemas cada vez más potentes.

¿Los temores a largo plazo distraen de daños actuales?

Otra crítica se refiere a las prioridades. Incluso si el riesgo catastrófico merece investigación y planes de contingencia, concentrar toda la atención en escenarios especulativos de extinción puede ocultar daños que ya se asocian a sistemas avanzados de IA y a su despliegue.

La agenda inmediata incluye usos indebidos en ciberseguridad, fraude, vigilancia, desinformación, decisiones automatizadas discriminatorias, alteraciones en el empleo y concentración de poder. El propio Amodei citó riesgos de mal uso como el desarrollo de armas, los ciberataques y la vigilancia al defender un ritmo de desarrollo más lento. 29

No tiene por qué ser una elección entre daños presentes y riesgos catastróficos futuros. Las mejores salvaguardas pueden atender ambos frentes: controles de acceso más firmes, evaluaciones más rigurosas, políticas de despliegue prudentes, escrutinio independiente, notificación de incidentes y responsabilidades claras reducen abusos actuales y mejoran la preparación ante sistemas más capaces.

Lo que realmente cambia este debate

La conclusión más sólida no es que la extinción esté demostrada, ni que pueda descartarse porque aún no se haya probado una vía completa hacia una catástrofe. La evidencia disponible apunta a un criterio más práctico: las afirmaciones de seguridad sobre sistemas cada vez más capaces deben poder probarse, someterse a revisión independiente y guardar proporción con la magnitud del daño potencial.

Coxon, Hubinger y Chughtai defienden la precaución ante la incertidumbre. Escépticos como Huang y Xing cuestionan que la evidencia actual justifique conclusiones apocalípticas a corto plazo. Amodei y Altman apuntan a una respuesta que no exige resolver antes todas las discrepancias filosóficas: acompasar la frontera tecnológica, medir las capacidades peligrosas, admitir una revisión externa creíble y coordinarse antes de que la presión competitiva convierta las promesas de seguridad no verificadas en la base habitual para desplegar nuevos sistemas. 49 16 33 18 19