Trump rechaza frenar la IA mientras Amodei pide reglas de seguridad para la frontera tecnológica

Donald Trump planteó el debate sobre la inteligencia artificial avanzada como una carrera estratégica con China. En declaraciones públicas, dijo que Estados Unidos debía conservar el liderazgo del sector porque «quien gana la IA, gana». Después calificó de «ENGAÑO» las advertencias de que la IA pudiera apoderarse del mundo o destruir a la humanidad, y describió la oposición a la IA y a los centros de datos como una «conspiración ENFERMIZA» que beneficia a China. 1719

Por qué Trump arremetió contra Dario Amodei

La respuesta de Trump llegó tras el llamamiento del director ejecutivo de Anthropic, Dario Amodei, a reducir deliberadamente la velocidad con la que mejoran los sistemas de IA más potentes. Las dos posturas parten de prioridades distintas: Trump enfatiza la supremacía tecnológica de Estados Unidos; Amodei advierte de que las capacidades de los modelos pueden estar progresando más rápido que las prácticas de seguridad y la supervisión efectivas. 17

Trump también sostuvo que ya existen amplias facultades penales y regulatorias sobre estas empresas, y afirmó que un presidente fuerte era la salvaguarda necesaria. Su crítica a Amodei combinó, por tanto, escepticismo ante los riesgos existenciales con el temor de que las restricciones formales debiliten a las compañías estadounidenses frente a competidores chinos. 1921

Qué propone «We Must Pace the Frontier»

Amodei no propuso poner fin a la investigación en IA. Su plan de tres puntos pide moderar el avance sin control de las capacidades para que la seguridad, las pruebas y la gobernanza puedan ponerse al día.

1. Evaluadores independientes permanentes dentro de los laboratorios de frontera. Anthropic anunció que dará a evaluadores externos acceso continuo, con un nivel equivalente al de empleados, a sus sistemas. Su función incluiría verificar las prácticas de seguridad, informar de incidentes y evaluar la alineación de los modelos durante el entrenamiento. 16
2. Coordinación entre las empresas que desarrollan IA de frontera. El plan plantea que los principales laboratorios acuerden normas de seguridad compartidas y límites al desarrollo sin controles, en vez de competir únicamente por aumentar capacidades a toda velocidad.
3. Cooperación internacional. Amodei sostiene que la gestión de los riesgos más graves exigirá, en última instancia, colaboración más allá de un solo país o bloque.

El primer punto se presentó como un compromiso inmediato y unilateral de Anthropic, no solo como una petición a gobiernos o rivales. 16

La reacción de Altman, Musk y Nadella

El director ejecutivo de OpenAI, Sam Altman, dijo que coincidía en que había que marcar el ritmo de la frontera tecnológica y que OpenAI también facilitaría acceso a evaluadores externos. Elon Musk, responsable de xAI, igualmente expresó su acuerdo con Amodei.

Satya Nadella, director ejecutivo de Microsoft, recibió positivamente la idea de avanzar de forma deliberada y de incorporar evaluadores internos, pero añadió una condición relevante: la supervisión no puede quedar controlada por un grupo reducido de empresas. Según Nadella, cualquier avance hacia la superinteligencia debe beneficiar a la humanidad y mantenerse bajo control humano.

Estas respuestas no constituyen todavía un régimen regulatorio común. Sí reflejan apoyo de varias figuras del sector a un escrutinio más formal y permanente de los sistemas más avanzados.

El problema de coordinarse con China

Jacob Coxon, antiguo investigador de Anthropic y OpenAI, declaró que quienes construyen estos sistemas están «realmente asustados» por el futuro de la humanidad. Valoró positivamente la idea de desacelerar, pero subrayó que tendría que coordinarse con China. 1

Ese reparo toca el núcleo del debate: una empresa o un país que frene en solitario puede temer perder terreno frente a rivales que no lo hagan. El Ministerio de Exteriores chino rechazó el llamamiento de Amodei a establecer límites que afectaran a las capacidades de IA de China, al interpretarlo como un intento estadounidense de contener al país y no como una gobernanza neutral de la seguridad. 4

El resultado es un problema de confianza. Sus defensores ven las reglas recíprocas como una vía para reducir riesgos; sus críticos pueden ver esas mismas reglas como un mecanismo para preservar la ventaja tecnológica de la otra parte.

La crítica: la seguridad también puede proteger a los grandes

El inversor Michael Burry calificó de «interesada» la campaña para desacelerar. Su argumento es que un desarrollo más lento y requisitos de cumplimiento más exigentes podrían favorecer a las grandes compañías de IA, al elevar las dificultades de entrada para nuevos competidores. También cuestionó que los modelos de lenguaje de gran tamaño actuales estén en una trayectoria hacia la inteligencia artificial general.

Esa crítica no invalida las preocupaciones por la seguridad de la IA. Señala, en cambio, un riesgo práctico de política pública: las normas diseñadas para hacer más seguro el desarrollo de modelos de frontera también pueden concentrar más poder en las empresas mejor preparadas para cumplirlas. Un marco creíble tendría que atender tanto la seguridad como la concentración de poder.

Por qué importaba la reunión prevista entre Trump y Xi

Se esperaba que Trump y el líder chino Xi Jinping abordaran la gobernanza de la IA en una reunión prevista para el 24 de septiembre. 4 La cita era relevante porque la parte más difícil de cualquier estrategia de seguridad para la IA de frontera no consiste en redactar una regla para un laboratorio, sino en crear acuerdos que las potencias rivales consideren recíprocos y verificables.

El enfoque de Trump, centrado en la competencia con China, y la objeción de Pekín a los límites sobre su desarrollo de IA mostraban hasta qué punto sería difícil alcanzar ese entendimiento. El debate, por tanto, va más allá de elegir entre acelerar o pausar: trata de decidir si la carrera por la IA puede gobernarse sin convertir la seguridad en otro frente de la competencia geopolítica. 174