Amazon pide probar la IA antes de lanzarla, sin apoyar una ralentización general

Amazon ha fijado una posición intermedia en el debate sobre la seguridad de la inteligencia artificial: los modelos potentes deben pasar pruebas rigurosas y contar con salvaguardas sólidas antes de ponerse a disposición de los usuarios. Sin embargo, la empresa no se ha sumado a las peticiones de una ralentización coordinada y general del desarrollo de la IA. 6

Para Amazon, progreso y seguridad no son opciones excluyentes. Su criterio se centra en el momento del lanzamiento: un modelo debe estar «listo y ser seguro de usar», algo que, según la compañía, exige evaluaciones exigentes y protecciones robustas. También ha defendido una acción conjunta entre la industria y los gobiernos. 6

La diferencia clave con Anthropic

La propuesta de Anthropic, dirigida por Dario Amodei, va más lejos. Amodei ha pedido que los laboratorios que desarrollan IA de frontera reduzcan el ritmo al que mejoran las capacidades de sus modelos cuando las medidas de seguridad no puedan seguirles el paso. Su plan incluye evaluadores independientes con acceso profundo, estándares compartidos por el sector y coordinación internacional. 12

La diferencia puede resumirse así:

• Amazon: avanzar, pero no lanzar un modelo hasta que haya sido sometido a pruebas rigurosas y pueda considerarse seguro para su uso. 6
• Anthropic: además de controlar el lanzamiento, ajustar el propio ritmo de desarrollo de capacidades si la seguridad se queda atrás, con supervisión independiente y reglas coordinadas. 12

Las advertencias de Amodei sobre usos indebidos o escenarios de pérdida de control describen riesgos futuros que justifican, a su juicio, la precaución; no prueban que ya se haya producido una toma de control autónoma de la IA. 111

Apoyos, reservas y desacuerdos

Sam Altman, de OpenAI, Demis Hassabis, de Google DeepMind, y Elon Musk, de xAI, expresaron públicamente apoyo a la dirección de la propuesta de Amodei. Altman afirmó que igualaría el compromiso de Anthropic de permitir que evaluadores externos, con acceso equiparable al de empleados, revisen las prácticas de seguridad. 4

Pero respaldar el objetivo de una IA más segura no resuelve cómo implantar una desaceleración coordinada. Harían falta definiciones comunes de las capacidades peligrosas, mecanismos de verificación creíbles y acuerdos entre competidores sometidos a presiones comerciales y geopolíticas. Los principales líderes del sector siguen divididos tanto sobre la urgencia del riesgo como sobre la respuesta adecuada.

Mark Zuckerberg, consejero delegado de Meta, ha defendido en cambio salvaguardas guiadas por el mercado, no una desaceleración coordinada.

La cuestión de fondo: ¿compromisos voluntarios o controles exigibles?

La postura de Amazon encaja con herramientas ya habituales de gestión de riesgos: evaluaciones previas al lanzamiento, pruebas de estrés o red-teaming, controles de seguridad e informes de riesgos. El International AI Safety Report 2026 identifica, entre otras prácticas relevantes, el modelado de amenazas, las evaluaciones de capacidades, las divulgaciones de transparencia y la notificación de incidentes.

La gran incógnita es quién fija el estándar y quién decide si un modelo lo ha superado. Negociadores del Senado de Estados Unidos han debatido una legislación que obligaría a las empresas de IA a demostrar que adoptan «precauciones razonables» frente a daños. La propuesta contemplada permitiría al secretario de Comercio exigir pruebas y recurrir a auditores públicos para examinar productos de las compañías. 20

Un régimen de este tipo, basado en un deber de diligencia, no implicaría necesariamente una pausa generalizada. Pero sí daría a una autoridad externa capacidad para revisar —y cuestionar— la afirmación de una empresa de que su modelo está listo para desplegarse.

La cooperación también plantea un problema de competencia

Una fórmula común de seguridad podría homogeneizar las pruebas y los reportes, pero abre la discusión sobre quién redacta las reglas. Andrew Ferguson, presidente de la Comisión Federal de Comercio de Estados Unidos (FTC), dijo que la población debería ser «profundamente escéptica» cuando empresas de IA buscan exenciones antimonopolio mientras promueven nuevas regulaciones. Expertos consultados por Reuters señalaron, no obstante, que la legislación vigente en materia de competencia podría permitir coordinación para evitar riesgos catastróficos. 17

Aidan Gomez, consejero delegado de Cohere, también ha advertido de que un acuerdo de seguridad controlado por un pequeño grupo de laboratorios dominantes podría consolidar la posición de los actuales líderes. Gomez defiende salvaguardas verificables de manera independiente, transparencia y una participación más amplia en la definición de estándares.

Un contexto político difícil

La fórmula de colaboración entre empresas y gobiernos que plantea Amazon se enfrenta a un entorno político complejo en Estados Unidos. La administración Trump ha promovido un enfoque internacional de menor intervención regulatoria en IA, y el presidente ha sostenido que las salvaguardas existentes son suficientes.

Además, la administración comunicó a los desarrolladores que no sometería a pruebas voluntarias de seguridad a los modelos de pesos abiertos, es decir, aquellos cuyos componentes centrales son accesibles públicamente.

Bill Gates, por su parte, ha señalado que los gobiernos no están preparados para los cambios sociales que puede traer la IA y ha pedido cooperación internacional ante riesgos como la disrupción del empleo, la adicción y los ciberataques. 18

En síntesis

Amazon no está pidiendo que la IA avance más despacio. Su propuesta es elevar el umbral de despliegue: no lanzar modelos hasta que hayan sido probados rigurosamente y protegidos con salvaguardas sólidas. 6

La discrepancia con Anthropic es relevante. Para Amazon, el control principal está en la salida al mercado; para Anthropic, la seguridad debe condicionar también la velocidad de mejora de los sistemas más avanzados. El debate decisivo pasa así por determinar si las compañías pueden evaluar por sí mismas cuándo un producto está listo o si evaluadores independientes y autoridades públicas deben poder comprobar, cuestionar o bloquear ese lanzamiento. 120