El debate sobre los riesgos de la IA también es una disputa por quién fija las reglas

En una entrevista publicada por Le Monde el 24 de septiembre, Arthur Mensch, director de la empresa francesa Mistral AI, acusó a los gigantes estadounidenses del sector de aprovechar el temor a la inteligencia artificial (IA) para reforzar su posición. «La IA es software. Se puede controlar», afirmó. Su argumento plantea una pregunta importante sobre la competencia, pero no zanja el debate sobre la seguridad: una advertencia puede describir un riesgo real y, al mismo tiempo, favorecer los intereses de quien la formula.29

Quién decide qué significa desarrollar IA con prudencia

Si las empresas más grandes contribuyen a definir requisitos de seguridad que ellas pueden cumplir con mayor facilidad que sus rivales, esas reglas podrían dificultar la entrada o el crecimiento de competidores más pequeños. Ese es el núcleo de la crítica de Mensch, no una prueba de que los riesgos sean inventados.29

Tampoco significa que Mistral considere inocuo cualquier despliegue. La propia compañía ha advertido que los modelos pueden convertirse en actores poderosos cuando se les da autonomía y acceso a herramientas, y que utilizarlos de forma segura exige precauciones. Por eso, decir que la IA puede controlarse debe entenderse como una defensa de la gestión del riesgo, no como garantía de que todos los sistemas futuros serán controlables.72

Advertencias graves, pero no certezas

A principios de septiembre, Jacob Coxon, exinvestigador de Anthropic que antes había trabajado en OpenAI, advirtió que la IA «podría matarnos a todos antes de que termine la década». Después, Dario Amodei, director de Anthropic, pidió ralentizar voluntariamente el desarrollo de los modelos más avanzados. Según Le Monde, sus principales competidores estadounidenses respaldaron el llamamiento del 12 de septiembre.18

Son advertencias y propuestas que merecen examinarse, no predicciones demostradas. La frase de Coxon expresa una posibilidad, no una fecha límite establecida. Del mismo modo, que varias empresas apoyen una desaceleración no demuestra por sí solo que esta reduciría el riesgo mejor que medidas de seguridad más específicas.18

El desacuerdo tampoco se reduce a Europa frente a Estados Unidos. Geoffrey Hinton ha reclamado actuar con mayor rapidez para establecer salvaguardas, mientras que Andrew Ng ha cuestionado las pruebas detrás de los mensajes más alarmistas y se ha opuesto a las peticiones generales de frenar el avance. La pregunta práctica es cuáles son los riesgos demostrados y qué medidas responderían a cada uno.

Una demanda no prueba un pacto

Una demanda presentada por suscriptores de servicios de IA sostiene que Anthropic, OpenAI, SpaceXAI y Google acordaron limitar el desarrollo de sus sistemas competidores tras el llamamiento a desacelerar. Es una acusación, no una conclusión judicial. Que varios directivos expresen preocupaciones similares sobre seguridad no demuestra, por sí solo, que hayan coordinado sus decisiones.

La crítica de Mensch y la demanda plantean cuestiones relacionadas, pero distintas: una pregunta si el discurso sobre seguridad puede favorecer a las empresas dominantes; la otra, si los competidores llegaron realmente a un acuerdo para frenar el desarrollo. Ni toda alerta es una maniobra comercial ni toda petición de cautela constituye una prueba de colusión.

El criterio más útil es exigir pruebas que puedan examinarse de manera independiente para cada medida propuesta y analizar si sus costes recaen de forma desproporcionada sobre posibles competidores. Ese escrutinio debe aplicarse tanto a las peticiones de desaceleración como a la defensa que hace Mistral de continuar desarrollando IA. Tener un interés comercial es motivo para someter un argumento a prueba, no para descartarlo automáticamente.789