Un pacto voluntario no zanjó el debate sobre los riesgos de la IA

La reunión del 29 de septiembre en la Casa Blanca puso en un mismo escenario una disputa privada sobre los riesgos de la inteligencia artificial y una muestra pública de acuerdo. Según una versión periodística, varios ejecutivos cuestionaron las advertencias de Dario Amodei, director ejecutivo de Anthropic. Después, él sostuvo que la IA plantea «riesgos muy reales», aunque la manera de abordarlos seguía en discusión. Los ejecutivos y el presidente Donald Trump también presentaron un pacto voluntario de seguridad. La firma conjunta no resolvió sus diferencias sobre el papel del Gobierno. 2

Qué pasó en la reunión

La cobertura disponible describe un intercambio en una sesión más reducida, en la que algunos ejecutivos cuestionaron a Amodei por sus advertencias. Sin embargo, la información proporcionada no permite reconstruir con precisión la conversación ni establecer qué dijo cada participante. Tampoco confirma que la posible pérdida de empleos formara parte de ese intercambio concreto.

El desacuerdo más amplio sí quedó claro. Amodei había pedido normas que exigieran auditorías independientes de los sistemas de IA más avanzados. Trump, en cambio, defendió que las empresas se supervisaran a sí mismas, en lugar de someterse a nuevas restricciones federales. 4 Tras la reunión, Amodei insistió en que los riesgos eran reales, pero dijo que todavía se debatía cómo responder a ellos. 2

Qué incluye el pacto voluntario

El Acuerdo de la Casa Blanca sobre Superinteligencia plantea compromisos empresariales en materia de controles internos y revisiones de seguridad. También contempla colaborar con auditores independientes para evaluar si los sistemas de IA se comportan como esperan sus desarrolladores, además de medidas para impedir accesos o ataques no autorizados. 315

Trump lo calificó de «moralmente vinculante» y dijo que las empresas se vigilarían a sí mismas. Pero los reportes describieron el acuerdo como voluntario y sin fuerza legal. En la práctica, es un compromiso de la industria, no una nueva regulación federal. 411

La diferencia es importante: el pacto enumera medidas de supervisión, pero no determina si normas externas deberían exigirlas, cómo se harían cumplir ni si los compromisos acabarían convertidos en ley. Según la cobertura, el texto deja abierta la posibilidad de incorporar algunas medidas a la legislación con el tiempo.

Las preguntas de supervisión siguen abiertas

Trump mencionó la posibilidad de formar un comité de diez personas para supervisar la industria. La información disponible lo presenta como una propuesta en consideración, no como un organismo ya creado. 210

Las fuentes tampoco confirman que se haya descartado un proyecto distinto para crear un organismo de autorregulación de la industria ni explican cómo se habría relacionado con el pacto. Y aunque la cobertura vincula la participación de Anthropic con la reunión y el debate regulatorio, no demuestra que la empresa firmara para recomponer sus relaciones con el Gobierno antes de una salida a bolsa, ni que esa operación fuera inminente. 45

Un acuerdo público, no un debate resuelto

La reunión produjo un lenguaje común sobre algunas salvaguardas, pero no un consenso sobre cuánto debe intervenir el Gobierno. La propuesta de Amodei de exigir auditorías independientes mediante regulación y la preferencia de Trump por la supervisión voluntaria de las empresas dejan abierta la misma pregunta: ¿quién debe fijar y hacer cumplir los requisitos de seguridad de la IA? 4

Por eso, el pacto se entiende mejor como un marco voluntario para que las empresas actúen, no como prueba de que los ejecutivos coincidan sobre la magnitud de los riesgos o sobre si la autorregulación es suficiente.