El llamado a frenar la IA sacude a OpenAI, las bolsas y a Trump

La petición de Dario Amodei, director ejecutivo de Anthropic, de reducir deliberadamente la velocidad con que avanzan los modelos de inteligencia artificial más capaces dejó de ser un debate técnico sobre seguridad. En pocos días, obtuvo el respaldo público de Sam Altman, retrasó la esperada salida a bolsa de OpenAI, golpeó a las acciones vinculadas a la IA y provocó el rechazo frontal del presidente Donald Trump. 1710

Qué propone Amodei: «acompasar la frontera»

Amodei no planteó detener la investigación en IA. Su propuesta consiste en «acompasar la frontera»: moderar de forma intencional el ritmo al que los laboratorios de vanguardia mejoran las capacidades de sus modelos, para que la investigación en seguridad, la supervisión y la coordinación puedan ponerse al día.

Su preocupación es que sistemas cada vez más capaces sean más difíciles de entender y controlar, especialmente si la IA empieza a contribuir de manera relevante a crear la siguiente generación de IA. 177

El plan tiene tres ejes:

1. Supervisión independiente dentro de los laboratorios de frontera. Anthropic afirmó que concederá a evaluadores externos acceso permanente y equivalente al de un empleado a sus sistemas. Podrán comprobar el cumplimiento de las medidas de seguridad, informar sobre incidentes y analizar el alineamiento de los modelos durante su entrenamiento. 17
2. Coordinación entre las empresas de IA más avanzadas. Amodei propuso estándares de seguridad comunes y límites para evitar una competencia sin control. 17
3. Cooperación internacional. El planteamiento contempla coordinación entre gobiernos para gestionar los riesgos de la IA avanzada. 17

La primera medida supone que una parte de la evaluación de seguridad salga del proceso interno de revisión de cada compañía. No se trata de una auditoría externa puntual, sino de acceso y escrutinio continuos.

Altman respalda la propuesta y descarta una IPO de OpenAI en 2026

El consejero delegado de OpenAI, Sam Altman, apoyó públicamente la posición de Amodei y escribió que también era necesario «acompasar la frontera». El respaldo llamó la atención porque llegó entre dos compañías que compiten por desarrollar modelos cada vez más potentes. 1

Altman acompañó ese apoyo con una decisión empresarial de gran peso: OpenAI no saldrá a bolsa en 2026. Consideró que una oferta pública inicial, conocida como IPO por sus siglas en inglés, sería «poco aconsejable» en este momento, dado el trabajo pendiente en seguridad y alineamiento —el esfuerzo por lograr que los sistemas actúen de acuerdo con objetivos y límites humanos—. Reuters informó de que Altman considera inaceptable incluso una probabilidad del 10% de que la IA cause la extinción humana antes de que termine la década.

En la práctica, OpenAI presentó el trabajo de seguridad como una prioridad capaz de imponerse al calendario de una de las cotizaciones más esperadas del sector tecnológico. No anunció un cronograma público detallado para ralentizar sus modelos, pero sí dejó constancia de una postura más prudente.

Las advertencias de investigadores que precedieron al debate

El llamado llegó después de la renuncia de Jacob Coxon, investigador que afirmó haber trabajado en investigación de preentrenamiento tanto en OpenAI como en Anthropic. Coxon acusó a las empresas de estar «jugando con nuestras vidas» en la carrera hacia sistemas de IA capaces de mejorarse a sí mismos. 18

El debate también incluyó declaraciones de Evan Hubinger, responsable de Ciencia de Alineamiento en Anthropic. Según informó CNBC, Hubinger estimó personalmente en más del 10% la probabilidad de que la IA mate a todos los seres humanos durante esta década. Era una valoración individual expresada en el debate público, no una estimación corporativa de Anthropic ni una previsión demostrada.

Estas alertas trasladaron a los directivos una pregunta urgente: si los laboratorios deben seguir maximizando las mejoras de capacidad mientras las salvaguardas todavía están en desarrollo.

Por qué cayeron las acciones vinculadas a la IA

Los inversores interpretaron el llamamiento a frenar el ritmo como un posible cuestionamiento de las premisas detrás del auge bursátil de la IA: mejoras sostenidas de los modelos, grandes desembolsos en capacidad de cómputo y una demanda fuerte de chips e infraestructura asociada. Las acciones asiáticas relacionadas con IA bajaron tras los anuncios y los futuros de las bolsas estadounidenses también retrocedieron.

SoftBank, importante inversor de OpenAI, llegó a caer un 13,2% en Tokio, según Reuters. La reacción se extendió a otras empresas asiáticas expuestas a la IA. Otros informes situaron los futuros del Nasdaq cerca de un 1,5% abajo antes de la apertura, con presión sobre los fabricantes de semiconductores.

El movimiento bursátil no prueba que la inversión en IA o la demanda de chips vayan a desplomarse. Sí muestra una reevaluación del riesgo: si el progreso de los modelos de frontera se limita o se retrasa deliberadamente, los ingresos y retornos esperados para desarrolladores de modelos, proveedores de infraestructura y vehículos de inversión en IA podrían llegar más tarde de lo previsto.

Trump rechaza frenar el desarrollo

Trump rechazó el argumento de ralentizar la IA y presentó esta tecnología principalmente como una competencia estratégica entre Estados Unidos y China. «Quien gana la IA, gana», afirmó, al sostener que Estados Unidos lleva ventaja y debe conservarla. 10

Su respuesta resume el principal choque político. Los defensores de la seguridad sostienen que disponer de más tiempo para pruebas, investigación de alineamiento y supervisión independiente puede reducir la posibilidad de daños graves. Quienes se oponen a frenar temen que una restricción unilateral otorgue ventaja a Estados o empresas que sigan aumentando capacidades sin límites comparables. 1710

El propio Amodei reconoció que la falta de cooperación internacional —en particular de países adversarios como China— es el problema más difícil para un régimen de acompasamiento. Una política aplicada solo por algunos laboratorios podría imponer costes comerciales y geopolíticos a las empresas más cautelosas, sin detener la competencia por capacidades más avanzadas.

Lo que queda en juego para las tecnológicas y los mercados

El episodio dejó una combinación poco habitual de coincidencias y desacuerdos:

• Los dirigentes de laboratorios encontraron terreno común en la necesidad de reforzar la seguridad. Altman respaldó el llamamiento de Amodei y Anthropic se comprometió con evaluaciones externas integradas.
• Faltan detalles operativos. Apoyar públicamente la idea de «acompasar» el desarrollo no establece por sí solo umbrales comunes, mecanismos de cumplimiento ni un acuerdo internacional vinculante. 17
• La IPO de OpenAI se vio afectada directamente. Altman descartó cotizar en 2026 por las prioridades de seguridad.
• La vía de Anthropic hacia los mercados sigue siendo menos clara según la información disponible. Las fuentes respaldan su compromiso con evaluadores y su propuesta de política general, pero no establecen que Anthropic haya cambiado formalmente el calendario de una posible IPO a causa de esta disputa.

En el fondo, la discusión no es solo si la IA debe avanzar. Es quién fija el ritmo, qué evidencia independiente debe exigirse antes de que los modelos ganen capacidad y si los compromisos de seguridad resistirán la presión comercial y geopolítica por avanzar más rápido. 1710