La advertencia de Jack Clark para 2028: por qué importa que la IA construya su propia sucesora

Dicho de forma llana: Clark advierte de un cambio de fase. No sería «la IA escribe código», sino «la IA ayuda a fabricar la próxima IA con poca o ninguna participación humana» .

Qué significa que una IA construya a su sucesora

Un «sucesor» es el siguiente sistema en la cadena de desarrollo: normalmente, uno más capaz que el anterior. En el escenario de Clark, una IA suficientemente avanzada podría asumir o automatizar trabajos críticos para diseñar, entrenar, evaluar y mejorar ese siguiente sistema .

Por eso la comparación con un copiloto de programación se queda corta. Escribir código es solo una tarea dentro de una cadena mucho más amplia. La preocupación apunta a la cadena completa de I+D: decidir arquitecturas, preparar entrenamiento, medir resultados, corregir fallos y repetir el proceso .

Clark no afirma que ese punto ya se haya alcanzado. Lo plantea como una previsión probabilística sobre lo que podría ocurrir antes de finales de 2028 .

Por qué se habla de mejora recursiva

El nombre técnico que suele aparecer es mejora recursiva: una IA ayuda a crear una IA más capaz, y esa nueva IA ayuda a crear otra aún más capaz .

La versión preocupante no es simplemente que el software mejore. Es que el propio sistema que acelera la mejora también se vuelva más potente en cada generación. Informes sobre la advertencia de Clark vinculan esa posibilidad con una «explosión de inteligencia», un escenario en el que las capacidades se aceleran cuando las IA empiezan a mejorar los sistemas que vendrán después .

Si el cuello de botella del progreso deja de ser el trabajo humano y pasa a ser una maquinaria de IA que mejora IA, el ritmo podría volverse más difícil de vigilar, auditar y gobernar .

Por qué se considera un riesgo mayor

El riesgo principal es perder puntos reales de supervisión. En una I+D automatizada de extremo a extremo, los humanos podrían tener menos momentos útiles para detenerse, revisar la seguridad y decidir si el siguiente sistema debe desplegarse o no .

Hay tres motivos de preocupación:

• Menos revisión humana. Si los sistemas hacen por sí solos gran parte de la investigación, el entrenamiento y la mejora, las empresas y los investigadores podrían tener menos margen para evaluar riesgos antes de que exista el sucesor .
• Aceleración de capacidades. La advertencia se conecta con la idea de una explosión de inteligencia: avances que se encadenan cada vez más rápido porque la IA participa en crear IA más capaz .
• Presión sobre la gobernanza. Clark escribió que las implicaciones son enormes y que no está seguro de que la sociedad esté preparada para los cambios que implicaría una I+D de IA automatizada .

La imagen útil no es la de un robot fabricando otro robot. Es más bien una fábrica de modelos de frontera cada vez más automatizada, con ciclos de desarrollo que podrían ir más deprisa que las pruebas de seguridad, la regulación y la comprensión pública .

Lo que todavía está en discusión

La cifra de Clark —más del 60%— es un juicio de probabilidad, no un hecho probado . Y el calendario está lejos de ser consensuado.

Una crítica sostiene que una mejora recursiva de extremo a extremo y sin humanos para 2028 es improbable, con una estimación inferior al 10%; aun así, admite que algo parecido podría hacerse posible en un periodo más largo, hasta 2036 .

También hay una disputa técnica de fondo. Un informe que cita al informático Pedro Domingos señala que la cuestión clave no es solo si la IA puede generar o modificar software, sino si eso produce rendimientos crecientes fiables; Domingos sostiene que esa parte no se ha demostrado con claridad .

Esa diferencia importa. «La IA ayuda en investigación», «la IA automatiza casi toda la I+D de IA» y «la IA se mejora a sí misma tan rápido que causa una explosión de inteligencia» son afirmaciones relacionadas, pero no equivalentes . La advertencia de Clark se refiere a la versión más trascendente de esa progresión .

En resumen

Clark cree que, antes de finales de 2028, es más probable que no que existan sistemas capaces de hacer I+D de IA sin intervención humana y de construir de forma plausible a sus propios sucesores .

Si acierta, el peligro no sería solo una innovación más rápida. Sería que la creación de IA más potente empezara a moverse a un ritmo que la supervisión humana, las pruebas de seguridad y las reglas públicas no puedan seguir . La cautela principal: sigue siendo una predicción discutida, y varios críticos consideran que 2028 puede ser un plazo demasiado agresivo .