La evolución de la inteligencia artificial: de las reglas a los agentes autónomos

Los primeros programas capaces de jugar demostraron que una máquina podía explorar movimientos posibles en un entorno limitado. Con el tiempo, esas ideas y las técnicas estadísticas se aplicaron a tareas prácticas como:

• detectar transacciones inusuales o posiblemente fraudulentas;
• evaluar el riesgo crediticio y la probabilidad de impago;
• estimar riesgos sanitarios, como el deterioro de un paciente o su posible reingreso hospitalario;
• ordenar productos, vídeos, canciones y publicaciones en motores de recomendación; y
• combinar reconocimiento de voz, clasificación de intenciones y flujos de trabajo predefinidos en asistentes como Siri.

Estos sistemas suelen funcionar bien cuando la tarea es concreta, repetitiva y medible. Pueden procesar grandes volúmenes de casos con rapidez y ofrecer resultados consistentes. Además, los sistemas basados en reglas pueden ser más fáciles de inspeccionar que los modelos complejos, porque su lógica de decisión es explícita.

Los límites de predecir

La IA tradicional no comprende automáticamente por qué ocurre un resultado. Un modelo puede detectar una asociación estadística sin demostrar causalidad, y un sistema entrenado con datos históricos sesgados puede reproducir o amplificar ese sesgo. Las reglas también pueden volverse frágiles fuera de las condiciones para las que fueron diseñadas, mientras que los modelos predictivos complejos no siempre son fáciles de explicar.

El rendimiento puede deteriorarse cuando cambia la realidad, un problema conocido como deriva de datos. En ámbitos de alto impacto —como crédito, empleo, seguros, seguridad pública y sanidad—, un uso responsable exige revisar la calidad de los datos, probar posibles sesgos, ofrecer explicaciones adecuadas, mantener supervisión humana, vigilar el rendimiento y habilitar vías de reclamación.

2. IA generativa: crear contenidos nuevos

La IA generativa aprende patrones a partir de grandes colecciones de texto, imágenes, audio, vídeo o código y utiliza esos patrones para producir resultados nuevos. Los grandes modelos de lenguaje generan texto de forma secuencial, mientras que los sistemas multimodales pueden trabajar con varios formatos.

Este cambio transformó la experiencia de uso. En lugar de seleccionar comandos fijos o recibir una puntuación de clasificación, las personas pueden describir un objetivo en lenguaje cotidiano y pedir al sistema que redacte, transforme o explique un material.

Dónde se utiliza

Entre sus aplicaciones más comunes están:

• Atención al cliente: redactar respuestas, resumir conversaciones, traducir contenidos y consultar información de bases de conocimiento.
• Trabajo jurídico: resumir documentos, extraer cláusulas, comparar fuentes y preparar primeros borradores. Los profesionales deben verificar las fuentes primarias y las afirmaciones legales.
• Educación: explicar conceptos, crear ejercicios y ofrecer comentarios.
• Trabajo creativo: generar ideas, redactar textos y producir imágenes, música, conceptos audiovisuales y código.
• Programación: explicar código, escribir pruebas, sugerir correcciones y acelerar tareas rutinarias de desarrollo.

Sus principales ventajas son la rapidez, la reducción del tiempo y el coste de redacción, la interacción en lenguaje natural y la posibilidad de generar varias versiones personalizadas. Sin embargo, una respuesta convincente no equivale necesariamente a un criterio profesional fiable.

Los principales riesgos

Alucinaciones y exceso de confianza. Los grandes modelos de lenguaje pueden producir información inventada, incorrecta, sesgada o demasiado simplificada con un tono seguro. Las investigaciones sobre fundamentación y evaluación señalan que las alucinaciones, los contenidos dañinos, la manipulación, las infracciones de derechos de autor, la privacidad y la seguridad requieren pruebas y seguimiento continuos.

Aprendizaje e integridad académica. Un amplio experimento escolar descubrió que la tutoría con IA mejoraba el rendimiento mientras la herramienta estaba disponible, pero que los estudiantes que dependían de ella sin salvaguardas adecuadas podían rendir peor cuando se retiraba el acceso, lo que apunta a una menor adquisición de habilidades. Las pistas diseñadas por docentes protegían más que limitarse a proporcionar las respuestas. Las herramientas generativas también pueden facilitar el plagio u ocultar si el estudiante realmente domina el trabajo.

Derechos de autor y procedencia. La procedencia de los datos de entrenamiento, la imitación de estilos y los resultados que reproducen material protegido siguen siendo cuestiones controvertidas. Las orientaciones educativas identifican la infracción de propiedad intelectual como un riesgo importante, junto con los contenidos inexactos, sesgados o inseguros.

Contenido dañino y manipulador. Los sistemas generativos pueden producir desinformación, acoso, material sexual o violento e instrucciones peligrosas. Las recomendaciones de seguridad incluyen pruebas, salvaguardas, registro de actividad y supervisión, en lugar de asumir que el modelo siempre se comportará como se espera.

Seguridad y bienestar de los menores. La investigación sobre los riesgos de la IA generativa para niños y adolescentes identifica preocupaciones relacionadas con el bienestar mental, el desarrollo conductual y social, la toxicidad, la privacidad y el uso indebido o la explotación. Estos riesgos son especialmente delicados cuando una persona trata al chatbot como sustituto de apoyo humano cualificado.

Privacidad y confidencialidad. Una instrucción puede contener datos personales, secretos comerciales, información de clientes o material protegido por el secreto profesional. Las organizaciones necesitan reglas claras sobre qué datos pueden introducirse en cada servicio, y los usuarios deberían considerar inadecuadas para información sensible las herramientas que no hayan sido aprobadas.

Controles prácticos

Una regla básica es tratar el resultado del modelo como un borrador, no como una prueba. Las afirmaciones importantes deben contrastarse con fuentes autorizadas, y las decisiones médicas, jurídicas, financieras, laborales o relacionadas con la seguridad deben requerir revisión humana.

También son útiles la recuperación de información fundamentada en fuentes aprobadas, las citas, las pruebas de tipo red team, las salvaguardas de contenido, el diseño adaptado a la edad, los registros de auditoría, la transparencia ante el usuario y las políticas sobre gestión de datos, uso académico, procedencia y derechos de propiedad intelectual. Las orientaciones gubernamentales destacan igualmente los riesgos de contenido inexacto o sesgado, filtraciones de privacidad, infracciones de propiedad intelectual y problemas de integridad académica.

3. IA agéntica: sistemas capaces de actuar

La IA agéntica añade una capa de acción. Un agente puede interpretar un objetivo, dividirlo en pasos, utilizar herramientas como navegadores, repositorios de código, bases de datos o sistemas de mensajería, revisar resultados intermedios y continuar trabajando dentro de los permisos concedidos.

Por eso un agente no es exactamente lo mismo que un chatbot, aunque ambos utilicen un gran modelo de lenguaje. Un chatbot puede redactar un correo; un agente puede buscar información, preparar el mensaje, enviarlo y actualizar otro sistema. Un asistente de programación puede explicar un error; un agente puede investigar el código, editar archivos, ejecutar pruebas y preparar un cambio para revisión.

Entre los ejemplos actuales se encuentran agentes de desarrollo de software como Google Jules, herramientas para flujos de contratación como LinkedIn Hiring Assistant y marcos de agentes personales como OpenClaw. El material del proyecto describe OpenClaw como un asistente personal de código abierto que se ejecuta en los dispositivos del usuario y se conecta a distintos canales y herramientas; sus capacidades reales dependen de las integraciones y permisos que se hayan habilitado.

Por qué pueden ser útiles

Los sistemas agénticos pueden:

• completar flujos de trabajo, en lugar de limitarse a redactar documentos aislados;
• reducir tareas administrativas y de coordinación;
• conectar información dispersa entre distintos sistemas empresariales; y
• funcionar de forma continua dentro de límites definidos.

Esto podría facilitar el acceso de pequeñas organizaciones y usuarios individuales a flujos de trabajo complejos. Pero también cambia la pregunta central: ya no basta con saber si la respuesta es correcta; hay que preguntar qué puede hacer el sistema y cómo se comprobarán sus acciones.

Por qué la autonomía amplía los riesgos

Un modelo generativo puede equivocarse en una respuesta. Un agente puede convertir una inferencia errónea, una instrucción maliciosa o una herramienta comprometida en una acción externa.

Por ejemplo, un agente con acceso financiero podría realizar un pago, una compra, una transferencia o una cancelación no autorizada. Uno con acceso al correo electrónico, al navegador o a la nube podría ser manipulado por una página o un documento malicioso para revelar credenciales o enviar archivos confidenciales. Los permisos excesivos, los controles de identidad débiles y la separación deficiente de funciones pueden convertir un pequeño error del modelo en un incidente grave.

También resulta más difícil atribuir responsabilidades cuando el resultado surge de la interacción entre el modelo, las instrucciones, los datos, las herramientas y otros agentes. Por ello, el operador debe poder ver no solo el resultado final, sino también la acción propuesta, las pruebas que la respaldan y los permisos utilizados.

La gobernanza debe crecer al ritmo de la capacidad

Los mismos principios básicos se aplican a las tres etapas: asignar un responsable, limitar el sistema a una finalidad concreta, proteger los datos, probarlo antes de desplegarlo, supervisar su rendimiento, prepararse para incidentes y ofrecer revisión o anulación humana en las decisiones relevantes.

Los sistemas agénticos necesitan controles adicionales porque pueden afectar a sistemas externos. Entre las salvaguardas prácticas están:

• credenciales con privilegios mínimos y duración limitada;
• cuentas separadas e identidad clara para cada agente;
• límites explícitos sobre lo que el agente puede leer, escribir, enviar, comprar, borrar o desplegar;
• pasos de confirmación para acciones irreversibles o de alto impacto;
• listas de herramientas aprobadas, entornos aislados y protección frente a la inyección de instrucciones maliciosas;
• límites de transacción y detección de anomalías;
• registros detallados y resistentes a manipulaciones;
• separación de funciones y aprobación humana proporcional al riesgo; y
• un mecanismo rápido para pausar o apagar el sistema.

Singapur presentó el 22 de enero de 2026 su Marco Modelo de Gobernanza de la IA Agéntica, una guía para las organizaciones que despliegan estos sistemas, no una ley de IA independiente. El marco sitúa la responsabilidad humana y organizativa en el centro y recomienda gestionar los riesgos y aplicar controles proporcionales al nivel de autonomía del agente.

En los servicios financieros, el documento SAFR de la Autoridad Monetaria de Singapur describe un enfoque de gobernanza en tiempo de ejecución. Su propuesta utiliza un registro estructurado que recoge qué pretende hacer el agente, por qué pretende hacerlo y qué pruebas respaldan la acción propuesta.

La idea clave

La evolución de la IA no es una marcha lineal de la “IA antigua” hacia una “IA nueva”. Los sistemas basados en reglas y los modelos predictivos siguen siendo la opción adecuada para muchas decisiones acotadas. La IA generativa aporta producción flexible e interacción en lenguaje natural. La IA agéntica añade la capacidad de perseguir objetivos mediante herramientas y acciones externas.

A medida que aumenta la capacidad, también crece el desafío de gobernanza. Predecir exige controlar la precisión, los sesgos y la deriva de datos. Generar exige verificar la veracidad, la seguridad, la privacidad y la procedencia. Actuar exige todo lo anterior, además de controlar permisos, establecer aprobaciones, definir responsabilidades y preparar la recuperación ante incidentes.

Los productos de IA más fiables no dependerán solo de modelos cada vez más capaces, sino de un diseño de sistemas disciplinado y de una supervisión humana efectiva.