Anthropic repitió como la empresa mejor valorada por segundo índice consecutivo, pero, de nuevo, sin lograr salir de la mediocridad .

¿Qué se evaluó? Las seis áreas clave

El panel de expertos analizó a las empresas a través de 37 indicadores agrupados en seis dominios :

• Evaluación de Riesgos — 6 indicadores que miden cómo las empresas evalúan capacidades peligrosas, como el riesgo biológico o los ciberataques.
• Daños Actuales — 9 indicadores que documentan problemas ya causados por los sistemas desplegados, como sesgos, desinformación o violaciones de la privacidad.
• Marcos de Seguridad — 4 indicadores que examinan si existen políticas concretas para hacer pruebas antes del lanzamiento, realizar "red-teaming" (simulaciones de ataques) y gestionar los lanzamientos de forma responsable.
• Seguridad Existencial — 4 indicadores centrados en los planes para controlar sistemas de IA avanzados, incluyendo la inteligencia artificial general (AGI) y la superinteligencia.
• Gobernanza y Responsabilidad — 4 indicadores que evalúan la supervisión del consejo directivo, las políticas para denunciantes (whistleblowing) y las auditorías independientes.
• Intercambio de Información — 10 indicadores sobre transparencia, acceso para investigadores externos y divulgación pública de las prácticas de seguridad.

El aspecto más crítico: por segundo año consecutivo, ninguna empresa superó una nota D en el dominio de 'Seguridad Existencial'. El panel concluyó que ninguna de las nueve firmas tiene un plan creíble para controlar una posible AGI o superinteligencia .

El desplome de xAI: del puesto 4 al 7 y una F rotunda

La caída más notable fue la de xAI, la empresa fundada por Elon Musk. Pasó de ser la cuarta mejor valorada en el índice de invierno de 2025 a caer al séptimo lugar, con la puntuación más baja de todo el índice salvo por DeepSeek y Mistral . Su nota se derrumbó de un 1.17 (equivalente a una D) a un 0.65 (una F) . ¿Las razones?

• Suspenso en múltiples áreas: xAI recibió una F tanto en 'Daños Actuales' como en 'Seguridad Existencial', y notas muy bajas en Evaluación de Riesgos y Marcos de Seguridad .
• Falta de transparencia: Fue una de las empresas que no respondió a la encuesta del instituto, lo que limitó la capacidad de los revisores para evaluar sus prácticas internas .
• Mientras otros mejoraban, xAI retrocedía: Meta, por ejemplo, subió del sexto al cuarto puesto en el mismo periodo, mientras que xAI se hundía .
• En mala compañía: Solo tres empresas recibieron una calificación global de F: xAI, DeepSeek y Mistral, situando a xAI en el grupo de las peor valoradas .

Seis problemas sistémicos que revela el informe

Más allá de las notas individuales, el informe del FLI —y su cobertura en medios como Time y Axios— pone el foco en seis fallos estructurales de la industria :

1. Marcha atrás en las promesas de seguridad. Empresas como Anthropic, OpenAI, Google DeepMind y Meta han debilitado o eliminado compromisos previos de pausar el desarrollo si sus sistemas alcanzaban ciertos umbrales de peligro. El informe lo califica como "mover los postes de la portería" .

2. La seguridad existencial, la gran asignatura pendiente. Ninguna empresa ha conseguido ni siquiera un aprobado raspado en esta categoría durante dos ediciones consecutivas del índice .

3. La autorregulación se erosiona antes de que llegue la regulación. Max Tegmark, presidente del FLI, advirtió que las empresas de IA están "corriendo hacia un acantilado", acelerando hacia la superinteligencia artificial a pesar de reconocer los riesgos .

4. Mayor uso militar de la IA comercial. Compañías que antes prohibían de forma general el uso militar de sus sistemas —como Anthropic, OpenAI y Google— han empezado a firmar acuerdos con el sector de la defensa .

5. Un patrón global de suspensos. Es significativo que las tres notas de F correspondan a empresas de tres regiones diferentes: xAI (EE. UU.), DeepSeek (China) y Mistral (Europa). Esto sugiere que el problema de la seguridad no es exclusivo de una cultura empresarial, sino global .

6. Las capacidades avanzan más rápido que las salvaguardas. La publicación del informe coincidió con una conferencia de la ONU sobre IA en Ginebra, donde el Secretario General, António Guterres, advirtió: "Puede que seamos la última generación capaz de establecer los términos en los que la humanidad y las máquinas coexistirán" .

¿Qué esperar?

El Índice de Seguridad de IA del FLI se publica dos veces al año, por lo que sirve como un termómetro regular del estado de la seguridad en la industria. La edición de invierno de 2026 mostrará si empresas como xAI y DeepSeek pueden revertir su trayectoria descendente y, sobre todo, si alguna empresa logra finalmente romper el techo de cristal del C+.

Anthropic repitió como la empresa mejor valorada por segundo índice consecutivo, pero, de nuevo, sin lograr salir de la mediocridad .

¿Qué se evaluó? Las seis áreas clave

El panel de expertos analizó a las empresas a través de 37 indicadores agrupados en seis dominios :

• Evaluación de Riesgos — 6 indicadores que miden cómo las empresas evalúan capacidades peligrosas, como el riesgo biológico o los ciberataques.
• Daños Actuales — 9 indicadores que documentan problemas ya causados por los sistemas desplegados, como sesgos, desinformación o violaciones de la privacidad.
• Marcos de Seguridad — 4 indicadores que examinan si existen políticas concretas para hacer pruebas antes del lanzamiento, realizar "red-teaming" (simulaciones de ataques) y gestionar los lanzamientos de forma responsable.
• Seguridad Existencial — 4 indicadores centrados en los planes para controlar sistemas de IA avanzados, incluyendo la inteligencia artificial general (AGI) y la superinteligencia.
• Gobernanza y Responsabilidad — 4 indicadores que evalúan la supervisión del consejo directivo, las políticas para denunciantes (whistleblowing) y las auditorías independientes.
• Intercambio de Información — 10 indicadores sobre transparencia, acceso para investigadores externos y divulgación pública de las prácticas de seguridad.

El aspecto más crítico: por segundo año consecutivo, ninguna empresa superó una nota D en el dominio de 'Seguridad Existencial'. El panel concluyó que ninguna de las nueve firmas tiene un plan creíble para controlar una posible AGI o superinteligencia .

El desplome de xAI: del puesto 4 al 7 y una F rotunda

La caída más notable fue la de xAI, la empresa fundada por Elon Musk. Pasó de ser la cuarta mejor valorada en el índice de invierno de 2025 a caer al séptimo lugar, con la puntuación más baja de todo el índice salvo por DeepSeek y Mistral . Su nota se derrumbó de un 1.17 (equivalente a una D) a un 0.65 (una F) . ¿Las razones?

• Suspenso en múltiples áreas: xAI recibió una F tanto en 'Daños Actuales' como en 'Seguridad Existencial', y notas muy bajas en Evaluación de Riesgos y Marcos de Seguridad .
• Falta de transparencia: Fue una de las empresas que no respondió a la encuesta del instituto, lo que limitó la capacidad de los revisores para evaluar sus prácticas internas .
• Mientras otros mejoraban, xAI retrocedía: Meta, por ejemplo, subió del sexto al cuarto puesto en el mismo periodo, mientras que xAI se hundía .
• En mala compañía: Solo tres empresas recibieron una calificación global de F: xAI, DeepSeek y Mistral, situando a xAI en el grupo de las peor valoradas .

Seis problemas sistémicos que revela el informe

Más allá de las notas individuales, el informe del FLI —y su cobertura en medios como Time y Axios— pone el foco en seis fallos estructurales de la industria :

1. Marcha atrás en las promesas de seguridad. Empresas como Anthropic, OpenAI, Google DeepMind y Meta han debilitado o eliminado compromisos previos de pausar el desarrollo si sus sistemas alcanzaban ciertos umbrales de peligro. El informe lo califica como "mover los postes de la portería" .

2. La seguridad existencial, la gran asignatura pendiente. Ninguna empresa ha conseguido ni siquiera un aprobado raspado en esta categoría durante dos ediciones consecutivas del índice .

3. La autorregulación se erosiona antes de que llegue la regulación. Max Tegmark, presidente del FLI, advirtió que las empresas de IA están "corriendo hacia un acantilado", acelerando hacia la superinteligencia artificial a pesar de reconocer los riesgos .

4. Mayor uso militar de la IA comercial. Compañías que antes prohibían de forma general el uso militar de sus sistemas —como Anthropic, OpenAI y Google— han empezado a firmar acuerdos con el sector de la defensa .

5. Un patrón global de suspensos. Es significativo que las tres notas de F correspondan a empresas de tres regiones diferentes: xAI (EE. UU.), DeepSeek (China) y Mistral (Europa). Esto sugiere que el problema de la seguridad no es exclusivo de una cultura empresarial, sino global .

6. Las capacidades avanzan más rápido que las salvaguardas. La publicación del informe coincidió con una conferencia de la ONU sobre IA en Ginebra, donde el Secretario General, António Guterres, advirtió: "Puede que seamos la última generación capaz de establecer los términos en los que la humanidad y las máquinas coexistirán" .

¿Qué esperar?

El Índice de Seguridad de IA del FLI se publica dos veces al año, por lo que sirve como un termómetro regular del estado de la seguridad en la industria. La edición de invierno de 2026 mostrará si empresas como xAI y DeepSeek pueden revertir su trayectoria descendente y, sobre todo, si alguna empresa logra finalmente romper el techo de cristal del C+.