La IA que ayuda a crear la próxima IA: por qué piden más supervisión

La preocupación de los investigadores no es solo que los modelos de IA se vuelvan más capaces. También temen que la propia IA contribuya a desarrollar los sistemas que vendrán después, creando un ciclo que acelere la investigación. Por eso, líderes de OpenAI, Anthropic, Meta y Microsoft piden a los responsables públicos que examinen hasta qué punto ha avanzado esa automatización. 23

A ese posible ciclo se le suele llamar mejora recursiva: los sistemas de IA ayudan a mejorar el proceso con el que se construyen nuevos sistemas de IA. Si cada generación puede asumir más tareas de investigación, los avances podrían sucederse con mayor rapidez. 15

La llamada «explosión de inteligencia» es un escenario hipotético, no una prueba de que la IA ya se esté mejorando por sí sola y sin intervención humana. La pregunta para quienes diseñan las políticas es cómo medir y supervisar el papel creciente de estas herramientas en la investigación. 114

El temor a que se acelere el ritmo

En uno de los escenarios descritos al informar sobre el documento de los investigadores, avances que normalmente llevarían un año podrían concentrarse en semanas. Es una previsión, no un resultado medido: las fuentes no establecen que ese ritmo ya se haya alcanzado. 314

Un estudio anterior, basado en entrevistas realizadas en 2025 a 25 investigadores de laboratorios punteros y del ámbito académico, encontró que muchos esperaban que la IA automatizara parte de la investigación y generara un ciclo de retroalimentación positiva. Ese antecedente ayuda a entender por qué se toma en serio la posibilidad, pero no demuestra que una aceleración extrema sea inevitable. 1

Qué quieren que examinen los responsables públicos

La petición inmediata es tener más claridad sobre cuánto utilizan las empresas la IA en sus tareas de investigación y desarrollo. Más de 20 líderes e investigadores del sector instaron a los responsables públicos a examinar ese progreso y a considerar medidas de protección. 2

Eso no significa que los laboratorios hayan cedido ya el control de la investigación a sus sistemas. Contar con información más precisa sobre dónde y cómo se usa la IA permitiría evaluar si la supervisión actual es suficiente a medida que estas herramientas asumen más tareas. 23

Frenar el desarrollo: una opción con interrogantes

Un ritmo más pausado podría dar margen para probar los sistemas, evaluarlos de forma independiente y reforzar la supervisión antes de que cambien sus capacidades. Investigadores de OpenAI y Anthropic han pedido públicamente un desarrollo más lento, mientras que otros dirigentes del sector han defendido un enfoque más guiado por el mercado. No hay consenso sobre cuánto habría que frenar ni sobre cómo sería una pausa viable. 818

También quedan preguntas prácticas: qué sistemas o actividades abarcaría una pausa, quién comprobaría que se cumple y cómo se coordinaría entre empresas competidoras. La información disponible señala que tanto el alcance como la aplicación de una pausa siguen sin estar claros.

¿Serviría un botón de emergencia?

Brad Smith, presidente de Microsoft, ha defendido que quienes crean modelos de IA, los proveedores de infraestructura en la nube y quienes gestionan agentes de IA deberían poder apagarlos. La idea sería contar con un posible freno de emergencia, no reemplazar la prevención ni la supervisión constante.

Pero apagar un sistema no siempre es tan sencillo como pulsar un botón: la IA puede funcionar sobre infraestructura distribuida y no hay un interruptor único que garantice que cada componente se detenga. Por eso, los expertos también apuntan a la necesidad de vigilancia continua e intervención humana.

El doble papel de las empresas

La propuesta plantea una cuestión de gobernanza: algunas compañías podrían participar en la supervisión de sistemas que también desarrollan o alojan. Microsoft, por ejemplo, trabaja en el desarrollo de modelos y ofrece servicios en la nube. Ese solapamiento refuerza la importancia de contar con reglas claras y controles independientes; por sí solo, no demuestra que la postura de seguridad de ninguna empresa sea poco sincera. 2

Además, los líderes del sector discrepan sobre la velocidad del desarrollo, en un contexto de fuerte competencia por crear y desplegar IA. Una empresa podría tener dificultades para mantener voluntariamente un ritmo más lento si otras siguen avanzando. Las fuentes documentan tanto el desacuerdo como la presión competitiva, pero no prueban que los intereses de inversión determinen la postura de cada investigador. 1218

Para los responsables públicos, el reto tiene dos partes: seguir de cerca el papel de la IA en el desarrollo de más IA y lograr que las medidas de seguridad puedan verificarse, en lugar de depender solo de las garantías de las empresas. Las advertencias justifican examinar estas cuestiones ahora; no resuelven cuán probable es una «explosión de inteligencia» ni qué respuesta funcionaría mejor. 123