De predecir a actuar: la evolución de la inteligencia artificial
Desde que John McCarthy acuñó el término «inteligencia artificial» en 1955, la tecnología ha avanzado, en términos generales, de predecir y clasificar a generar contenido y, más recientemente, planificar y actuar medi... La IA tradicional funciona bien en tareas acotadas; la IA generativa crea texto, imágenes y códi...
Publicado porEditado con GPT-5.6 LunaImágenes generadas con GPT Image 1.5
Desde que John McCarthy acuñó el término «inteligencia artificial» en 1955, la tecnología ha avanzado, en términos generales, de predecir y clasificar a generar contenido y, más recientemente, planificar y actuar medi...
La IA tradicional funciona bien en tareas acotadas; la IA generativa crea texto, imágenes y código, pero puede inventar información; y la IA agéntica ejecuta flujos de varios pasos, aunque todavía falla aproximadament...
El marco de gobernanza de IA agéntica de Singapur recomienda limitar la autonomía, aplicar el principio de mínimo privilegio, registrar la actividad y exigir aprobación humana antes de acciones sensibles.
How has artificial intelligence evolved over the past seven decades from traditional rule-based systems that classify data and predict outcoAI’s evolution can be understood as a progression from prediction to generation and autonomous action.
Prompt de IA
Create a landscape editorial hero image for this Studio Global article: How has artificial intelligence evolved over the past seven decades from traditional rule-based systems that classify data and predict outco. Article summary: Artificial intelligence has shifted from systems that followed human-written rules or learned narrow prediction patterns, to models that generate new content, and now to agents that can plan and act through software tool. Topic tags: general, government, education, academic, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, waterma
openai.com
La inteligencia artificial no ha avanzado mediante un reemplazo limpio de una tecnología por otra. Sus capacidades se han ido acumulando. A los sistemas que antes seguían reglas explícitas o generaban predicciones acotadas se suman ahora modelos capaces de crear contenido y agentes que pueden planificar, usar herramientas digitales y actuar en nombre de una persona.
Una forma sencilla de entender esta evolución es: predecir → generar → planificar y actuar. Cada etapa amplía lo que la IA puede hacer —y también las consecuencias de que se equivoque.
1. La IA tradicional: reglas, clasificación y predicción
Las primeras investigaciones en inteligencia artificial se apoyaron en gran medida en el razonamiento simbólico. Los programadores representaban el conocimiento mediante reglas y diseñaban sistemas capaces de explorar posibles soluciones. Los programas que jugaban al ajedrez son un ejemplo clásico: podían evaluar movimientos dentro de un conjunto de reglas definido.
El término «inteligencia artificial» fue acuñado en 1955 por el informático John McCarthy, quien la describió como «la ciencia y la ingeniería de fabricar máquinas inteligentes».
Más adelante, el aprendizaje automático estadístico trasladó parte del trabajo desde las reglas escritas a mano hacia los patrones aprendidos a partir de datos históricos. En general, estos sistemas reciben una entrada y devuelven un resultado acotado, por ejemplo:
marcar una transacción sospechosa;
estimar el riesgo crediticio;
predecir un resultado clínico;
ordenar productos o vídeos recomendados; o
reconocer la intención probable detrás del lenguaje hablado.
Estos usos no son necesariamente puramente «basados en reglas». En la práctica, suelen combinar reglas, modelos estadísticos y aprendizaje automático.
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
¿Cuál es la respuesta corta a "De predecir a actuar: la evolución de la inteligencia artificial"?
Desde que John McCarthy acuñó el término «inteligencia artificial» en 1955, la tecnología ha avanzado, en términos generales, de predecir y clasificar a generar contenido y, más recientemente, planificar y actuar medi...
¿Cuáles son los puntos clave a validar primero?
Desde que John McCarthy acuñó el término «inteligencia artificial» en 1955, la tecnología ha avanzado, en términos generales, de predecir y clasificar a generar contenido y, más recientemente, planificar y actuar medi... La IA tradicional funciona bien en tareas acotadas; la IA generativa crea texto, imágenes y código, pero puede inventar información; y la IA agéntica ejecuta flujos de varios pasos, aunque todavía falla aproximadament...
¿Qué debo hacer a continuación en la práctica?
El marco de gobernanza de IA agéntica de Singapur recomienda limitar la autonomía, aplicar el principio de mínimo privilegio, registrar la actividad y exigir aprobación humana antes de acciones sensibles.
De predecir a actuar: la evolución de la inteligencia artificial
Desde que John McCarthy acuñó el término «inteligencia artificial» en 1955, la tecnología ha avanzado, en términos generales, de predecir y clasificar a generar contenido y, más recientemente, planificar y actuar medi... La IA tradicional funciona bien en tareas acotadas; la IA generativa crea texto, imágenes y códi...
Publicado porEditado con GPT-5.6 LunaImágenes generadas con GPT Image 1.5
Desde que John McCarthy acuñó el término «inteligencia artificial» en 1955, la tecnología ha avanzado, en términos generales, de predecir y clasificar a generar contenido y, más recientemente, planificar y actuar medi...
La IA tradicional funciona bien en tareas acotadas; la IA generativa crea texto, imágenes y código, pero puede inventar información; y la IA agéntica ejecuta flujos de varios pasos, aunque todavía falla aproximadament...
El marco de gobernanza de IA agéntica de Singapur recomienda limitar la autonomía, aplicar el principio de mínimo privilegio, registrar la actividad y exigir aprobación humana antes de acciones sensibles.
How has artificial intelligence evolved over the past seven decades from traditional rule-based systems that classify data and predict outcoAI’s evolution can be understood as a progression from prediction to generation and autonomous action.
Prompt de IA
Create a landscape editorial hero image for this Studio Global article: How has artificial intelligence evolved over the past seven decades from traditional rule-based systems that classify data and predict outco. Article summary: Artificial intelligence has shifted from systems that followed human-written rules or learned narrow prediction patterns, to models that generate new content, and now to agents that can plan and act through software tool. Topic tags: general, government, education, academic, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, waterma
openai.com
La inteligencia artificial no ha avanzado mediante un reemplazo limpio de una tecnología por otra. Sus capacidades se han ido acumulando. A los sistemas que antes seguían reglas explícitas o generaban predicciones acotadas se suman ahora modelos capaces de crear contenido y agentes que pueden planificar, usar herramientas digitales y actuar en nombre de una persona.
Una forma sencilla de entender esta evolución es: predecir → generar → planificar y actuar. Cada etapa amplía lo que la IA puede hacer —y también las consecuencias de que se equivoque.
1. La IA tradicional: reglas, clasificación y predicción
Las primeras investigaciones en inteligencia artificial se apoyaron en gran medida en el razonamiento simbólico. Los programadores representaban el conocimiento mediante reglas y diseñaban sistemas capaces de explorar posibles soluciones. Los programas que jugaban al ajedrez son un ejemplo clásico: podían evaluar movimientos dentro de un conjunto de reglas definido.
El término «inteligencia artificial» fue acuñado en 1955 por el informático John McCarthy, quien la describió como «la ciencia y la ingeniería de fabricar máquinas inteligentes».
Más adelante, el aprendizaje automático estadístico trasladó parte del trabajo desde las reglas escritas a mano hacia los patrones aprendidos a partir de datos históricos. En general, estos sistemas reciben una entrada y devuelven un resultado acotado, por ejemplo:
marcar una transacción sospechosa;
estimar el riesgo crediticio;
predecir un resultado clínico;
ordenar productos o vídeos recomendados; o
reconocer la intención probable detrás del lenguaje hablado.
Estos usos no son necesariamente puramente «basados en reglas». En la práctica, suelen combinar reglas, modelos estadísticos y aprendizaje automático.
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
¿Cuál es la respuesta corta a "De predecir a actuar: la evolución de la inteligencia artificial"?
Desde que John McCarthy acuñó el término «inteligencia artificial» en 1955, la tecnología ha avanzado, en términos generales, de predecir y clasificar a generar contenido y, más recientemente, planificar y actuar medi...
¿Cuáles son los puntos clave a validar primero?
Desde que John McCarthy acuñó el término «inteligencia artificial» en 1955, la tecnología ha avanzado, en términos generales, de predecir y clasificar a generar contenido y, más recientemente, planificar y actuar medi... La IA tradicional funciona bien en tareas acotadas; la IA generativa crea texto, imágenes y código, pero puede inventar información; y la IA agéntica ejecuta flujos de varios pasos, aunque todavía falla aproximadament...
¿Qué debo hacer a continuación en la práctica?
El marco de gobernanza de IA agéntica de Singapur recomienda limitar la autonomía, aplicar el principio de mínimo privilegio, registrar la actividad y exigir aprobación humana antes de acciones sensibles.
Los sistemas predictivos suelen rendir bien cuando el objetivo está claro, los datos son pertinentes y es posible medir el coste de los distintos errores. Pueden procesar grandes volúmenes de información con rapidez, aplicar procedimientos coherentes e identificar patrones que una persona podría pasar por alto.
Su principal limitación es también lo que los hace relativamente manejables: normalmente están diseñados para una tarea concreta. Un modelo de detección de fraude puede puntuar transacciones, pero no necesariamente interpretar un documento normativo, redactar un informe o adaptarse con flexibilidad a una situación desconocida. Además, su rendimiento depende de la calidad de los datos de entrenamiento y de aquello que se optimizó para predecir.
Esto plantea preocupaciones éticas importantes en ámbitos como el crédito, la contratación, los seguros y la salud. Los datos históricos pueden reproducir sesgos sociales, mientras que los sistemas de puntuación opacos pueden dificultar que una persona cuestione una decisión. Por eso, la gobernanza debe incluir un propósito claramente definido, pruebas de precisión y equidad para los grupos relevantes, protección de la privacidad, explicaciones y revisión humana en las decisiones de alto impacto. Los problemas de sesgo, desinformación y uso indebido son desafíos generales de la política de IA, no solo problemas asociados a los chatbots.
2. La IA generativa: de predecir etiquetas a crear contenido
La IA generativa cambia la experiencia de uso: se pasa de preguntar «¿a qué categoría pertenece esto?» a pedir «crea o transforma algo a partir de esta instrucción».
Los grandes modelos pueden producir texto, imágenes, audio y código plausibles. Esto permite redactar respuestas para atención al cliente, traducir, ofrecer apoyo educativo, resumir materiales jurídicos, ayudar a programar y participar en trabajos creativos.
Los sistemas generativos pueden reducir el tiempo y el coste de preparar un primer borrador, ofrecer una interfaz conversacional para consultar información compleja y ayudar a profesionales en lugar de limitarse a automatizar una decisión fija.
La debilidad central: que algo parezca convincente no significa que sea cierto
Un modelo generativo puede producir una afirmación, una fuente, una referencia jurídica, una recomendación médica o un fragmento de código inventado o incorrecto con un tono de absoluta seguridad. El NIST utiliza el término confabulación para referirse a «la producción de contenido erróneo o falso expresado con confianza», lo que habitualmente se conoce como alucinación.
Por eso, la verificación es imprescindible cuando la precisión factual importa. Algunas medidas útiles son recuperar información de fuentes fiables, incluir citas, realizar evaluaciones estructuradas, probar el sistema en un dominio concreto y contar con revisión humana cualificada. Una respuesta fluida debe tratarse como un borrador o una predicción, no como una prueba de que la afirmación subyacente es correcta.
Los riesgos más amplios de los sistemas generativos
La IA generativa también plantea preguntas sobre protección de datos, propiedad intelectual, desinformación y procedencia de los resultados. Las directrices de la Comisión Europea para la investigación destacan estos riesgos y subrayan que las personas siguen siendo responsables del trabajo que publican, aunque hayan utilizado IA como apoyo.
La educación presenta un desafío relacionado. Si los estudiantes delegan de forma habitual la redacción, el razonamiento y la resolución de problemas, pueden obtener un resultado pulido mientras practican menos las capacidades que deberían desarrollar. Las orientaciones educativas señalan como riesgos el contenido inexacto o sesgado, el material perjudicial, las filtraciones de datos, las infracciones de propiedad intelectual y los problemas de integridad académica.
Los fallos de seguridad pueden ser especialmente graves en conversaciones sensibles. Si las salvaguardas fallan, un sistema generativo puede producir material que incite al odio o la violencia, contenido sexual o manipulador, o responder mal ante una persona que exprese intención de hacerse daño. El NIST incluye entre los riesgos relevantes las recomendaciones peligrosas o violentas, la privacidad y los sesgos perjudiciales.
En contextos de alto riesgo, la IA no debe sustituir la atención cualificada ni los mecanismos humanos de protección. Los sistemas necesitan respuestas sólidas de rechazo y derivación, controles de privacidad y una vía clara para obtener ayuda humana inmediata.
3. La IA agéntica: planificar, usar herramientas y actuar
La IA agéntica añade un ciclo de acción alrededor del modelo. En lugar de responder una sola vez a una instrucción, un agente puede interpretar un objetivo, dividirlo en pasos, utilizar herramientas como un navegador, un ejecutor de código, un servicio de correo electrónico o una API, revisar los resultados, modificar su plan y continuar.
Stanford describe la IA agéntica como un conjunto de sistemas autónomos o semiautónomos capaces de interpretar objetivos, encadenar acciones, utilizar herramientas, responder a la información recibida y adaptarse para completar tareas dentro de unos límites definidos.
La diferencia práctica es significativa:
un sistema predictivo puntúa una transacción;
un sistema generativo redacta una respuesta sobre ella; y
un agente podría, si recibe los permisos necesarios, investigar la transacción, actualizar un expediente y enviar un mensaje.
Google Jules ilustra este uso en el desarrollo de software. Google lo describe como un agente de programación asíncrono que se integra con repositorios, clona una base de código en una máquina virtual en la nube y trabaja en tareas de programación para que después sean revisadas.
Los agentes que utilizan herramientas de código abierto representan otro enfoque, mientras que productos de selección de personal como Hiring Assistant, de LinkedIn, muestran cómo los flujos agénticos pueden extenderse a la búsqueda de candidatos y la contratación.
Los agentes resultan atractivos porque pueden completar trabajos de varias etapas en lugar de limitarse a sugerir el siguiente paso. Un agente de programación podría investigar un error, editar varios archivos, ejecutar pruebas y preparar una solicitud de cambios. Un agente de flujos de trabajo podría recopilar información, organizarla y preparar comunicaciones para su aprobación.
Por qué la autonomía aumenta el riesgo
Planificar no equivale a comprender de forma fiable. Un agente puede interpretar mal una página web, escoger un plan deficiente, seguir una instrucción maliciosa o acumular un pequeño error durante muchos pasos. El informe AI Index 2026 de Stanford señala que los agentes mejoraron del 12 % a aproximadamente el 66 % de éxito en OSWorld, un benchmark de tareas informáticas reales, pero todavía fallan en cerca de uno de cada tres intentos.
La alucinación de un chatbot puede quedarse en un problema de comunicación. En cambio, un agente con credenciales, acceso al navegador o autorización para realizar pagos puede convertir ese mismo tipo de error en una acción externa. Por eso, la gobernanza de los agentes debe ocuparse no solo de la calidad de sus respuestas, sino también de sus permisos, la posibilidad de deshacer sus acciones y la atribución de responsabilidades.
Los principales riesgos de seguridad para los agentes de IA
Los riesgos más importantes aparecen cuando un agente puede afectar a sistemas, dinero, datos u otras personas:
Pagos no autorizados: podría elegir un producto equivocado, superar un presupuesto o ser manipulado por una página web maliciosa.
Filtración de datos y robo de información: el acceso al correo electrónico, archivos, registros de clientes, código fuente o claves de API crea oportunidades de divulgación, especialmente mediante ataques de inyección de instrucciones.
Daños de seguridad y en el software: el agente podría introducir código inseguro, modificar configuraciones, eliminar recursos o exponer secretos a través de registros y herramientas externas.
Vacíos de responsabilidad: puede resultar difícil determinar qué corresponde al proveedor del modelo, al desarrollador de la aplicación, a la organización que lo implementa, al proveedor de la herramienta o al usuario.
Manipulación: los agentes conversacionales y persistentes pueden ejercer una influencia indebida, sobre todo cuando el usuario es vulnerable o el sistema parece más capaz y fiable de lo que realmente es.
Cómo es una gobernanza responsable
Los controles deben corresponderse con las capacidades del sistema y con las consecuencias de un posible fallo.
En la IA predictiva, las organizaciones deberían definir el propósito, medir la precisión y la equidad, proteger los datos personales y ofrecer formas de explicar o recurrir las decisiones de alto impacto.
En la IA generativa, deberían verificar las afirmaciones importantes, probar las alucinaciones y los resultados perjudiciales, controlar los datos sensibles, abordar la procedencia y la propiedad intelectual, y mantener a profesionales cualificados como responsables de las decisiones jurídicas, médicas, financieras y relacionadas con la protección de las personas.
En el caso de los agentes, los controles técnicos y organizativos deben ir más lejos:
Delimitar el caso de uso. Decidir qué puede y qué no puede hacer el agente antes de implementarlo.
Limitar el acceso. Aplicar credenciales con el mínimo privilegio necesario, herramientas restringidas, límites de transacción y entornos aislados.
Exigir aprobación en puntos de control relevantes. Las acciones financieras, jurídicas, relacionadas con la privacidad o la seguridad no deberían ejecutarse sin la autorización humana adecuada.
Hacer auditable la actividad. Conservar registros, supervisar el comportamiento y asignar claramente la responsabilidad de los incidentes.
Realizar pruebas adversariales. Evaluar la inyección de instrucciones, la extracción de datos, las conductas perjudiciales y la recuperación ante fallos antes de la implementación y durante su funcionamiento.
Conservar el control humano. Las personas deben poder detener, anular y cuestionar las acciones con consecuencias importantes.
La Autoridad de Desarrollo de Medios e Infocomunicaciones de Singapur (IMDA, por sus siglas en inglés) recoge este enfoque basado en el riesgo en su Model AI Governance Framework for Agentic AI, dirigido a organizaciones que desarrollan agentes internamente o implementan soluciones de terceros.
La lección central del marco es graduar la autonomía: comenzar con asistencia de solo lectura, pasar después a acciones de bajo riesgo y reservar las acciones irreversibles o de alto impacto para una aprobación explícita.
Hacia dónde se dirige la IA
La evolución de la inteligencia artificial se entiende mejor como una pila de capacidades en expansión que como tres épocas completamente separadas. Los sistemas tradicionales predicen y clasifican. Los sistemas generativos crean y transforman. Los sistemas agénticos añaden planificación, uso de herramientas y acción.
La gobernanza debe avanzar al mismo ritmo. Los controles de precisión y equidad siguen siendo necesarios, pero ya no bastan. Los sistemas generativos requieren una verificación sólida, prácticas de trazabilidad y medidas de seguridad del contenido. Los agentes necesitan además límites de permisos, puntos de aprobación, supervisión de seguridad y responsabilidades claramente asignadas.
Cuanto más puede hacer un sistema de IA por su cuenta, más cuidadosamente deben decidir las organizaciones qué se le permite hacer.
assets.publishing.service.gov.ukThe safe and effective use of AI in education
Los sistemas predictivos suelen rendir bien cuando el objetivo está claro, los datos son pertinentes y es posible medir el coste de los distintos errores. Pueden procesar grandes volúmenes de información con rapidez, aplicar procedimientos coherentes e identificar patrones que una persona podría pasar por alto.
Su principal limitación es también lo que los hace relativamente manejables: normalmente están diseñados para una tarea concreta. Un modelo de detección de fraude puede puntuar transacciones, pero no necesariamente interpretar un documento normativo, redactar un informe o adaptarse con flexibilidad a una situación desconocida. Además, su rendimiento depende de la calidad de los datos de entrenamiento y de aquello que se optimizó para predecir.
Esto plantea preocupaciones éticas importantes en ámbitos como el crédito, la contratación, los seguros y la salud. Los datos históricos pueden reproducir sesgos sociales, mientras que los sistemas de puntuación opacos pueden dificultar que una persona cuestione una decisión. Por eso, la gobernanza debe incluir un propósito claramente definido, pruebas de precisión y equidad para los grupos relevantes, protección de la privacidad, explicaciones y revisión humana en las decisiones de alto impacto. Los problemas de sesgo, desinformación y uso indebido son desafíos generales de la política de IA, no solo problemas asociados a los chatbots.
2. La IA generativa: de predecir etiquetas a crear contenido
La IA generativa cambia la experiencia de uso: se pasa de preguntar «¿a qué categoría pertenece esto?» a pedir «crea o transforma algo a partir de esta instrucción».
Los grandes modelos pueden producir texto, imágenes, audio y código plausibles. Esto permite redactar respuestas para atención al cliente, traducir, ofrecer apoyo educativo, resumir materiales jurídicos, ayudar a programar y participar en trabajos creativos.
Los sistemas generativos pueden reducir el tiempo y el coste de preparar un primer borrador, ofrecer una interfaz conversacional para consultar información compleja y ayudar a profesionales en lugar de limitarse a automatizar una decisión fija.
La debilidad central: que algo parezca convincente no significa que sea cierto
Un modelo generativo puede producir una afirmación, una fuente, una referencia jurídica, una recomendación médica o un fragmento de código inventado o incorrecto con un tono de absoluta seguridad. El NIST utiliza el término confabulación para referirse a «la producción de contenido erróneo o falso expresado con confianza», lo que habitualmente se conoce como alucinación.
Por eso, la verificación es imprescindible cuando la precisión factual importa. Algunas medidas útiles son recuperar información de fuentes fiables, incluir citas, realizar evaluaciones estructuradas, probar el sistema en un dominio concreto y contar con revisión humana cualificada. Una respuesta fluida debe tratarse como un borrador o una predicción, no como una prueba de que la afirmación subyacente es correcta.
Los riesgos más amplios de los sistemas generativos
La IA generativa también plantea preguntas sobre protección de datos, propiedad intelectual, desinformación y procedencia de los resultados. Las directrices de la Comisión Europea para la investigación destacan estos riesgos y subrayan que las personas siguen siendo responsables del trabajo que publican, aunque hayan utilizado IA como apoyo.
La educación presenta un desafío relacionado. Si los estudiantes delegan de forma habitual la redacción, el razonamiento y la resolución de problemas, pueden obtener un resultado pulido mientras practican menos las capacidades que deberían desarrollar. Las orientaciones educativas señalan como riesgos el contenido inexacto o sesgado, el material perjudicial, las filtraciones de datos, las infracciones de propiedad intelectual y los problemas de integridad académica.
Los fallos de seguridad pueden ser especialmente graves en conversaciones sensibles. Si las salvaguardas fallan, un sistema generativo puede producir material que incite al odio o la violencia, contenido sexual o manipulador, o responder mal ante una persona que exprese intención de hacerse daño. El NIST incluye entre los riesgos relevantes las recomendaciones peligrosas o violentas, la privacidad y los sesgos perjudiciales.
En contextos de alto riesgo, la IA no debe sustituir la atención cualificada ni los mecanismos humanos de protección. Los sistemas necesitan respuestas sólidas de rechazo y derivación, controles de privacidad y una vía clara para obtener ayuda humana inmediata.
3. La IA agéntica: planificar, usar herramientas y actuar
La IA agéntica añade un ciclo de acción alrededor del modelo. En lugar de responder una sola vez a una instrucción, un agente puede interpretar un objetivo, dividirlo en pasos, utilizar herramientas como un navegador, un ejecutor de código, un servicio de correo electrónico o una API, revisar los resultados, modificar su plan y continuar.
Stanford describe la IA agéntica como un conjunto de sistemas autónomos o semiautónomos capaces de interpretar objetivos, encadenar acciones, utilizar herramientas, responder a la información recibida y adaptarse para completar tareas dentro de unos límites definidos.
La diferencia práctica es significativa:
un sistema predictivo puntúa una transacción;
un sistema generativo redacta una respuesta sobre ella; y
un agente podría, si recibe los permisos necesarios, investigar la transacción, actualizar un expediente y enviar un mensaje.
Google Jules ilustra este uso en el desarrollo de software. Google lo describe como un agente de programación asíncrono que se integra con repositorios, clona una base de código en una máquina virtual en la nube y trabaja en tareas de programación para que después sean revisadas.
Los agentes que utilizan herramientas de código abierto representan otro enfoque, mientras que productos de selección de personal como Hiring Assistant, de LinkedIn, muestran cómo los flujos agénticos pueden extenderse a la búsqueda de candidatos y la contratación.
Los agentes resultan atractivos porque pueden completar trabajos de varias etapas en lugar de limitarse a sugerir el siguiente paso. Un agente de programación podría investigar un error, editar varios archivos, ejecutar pruebas y preparar una solicitud de cambios. Un agente de flujos de trabajo podría recopilar información, organizarla y preparar comunicaciones para su aprobación.
Por qué la autonomía aumenta el riesgo
Planificar no equivale a comprender de forma fiable. Un agente puede interpretar mal una página web, escoger un plan deficiente, seguir una instrucción maliciosa o acumular un pequeño error durante muchos pasos. El informe AI Index 2026 de Stanford señala que los agentes mejoraron del 12 % a aproximadamente el 66 % de éxito en OSWorld, un benchmark de tareas informáticas reales, pero todavía fallan en cerca de uno de cada tres intentos.
La alucinación de un chatbot puede quedarse en un problema de comunicación. En cambio, un agente con credenciales, acceso al navegador o autorización para realizar pagos puede convertir ese mismo tipo de error en una acción externa. Por eso, la gobernanza de los agentes debe ocuparse no solo de la calidad de sus respuestas, sino también de sus permisos, la posibilidad de deshacer sus acciones y la atribución de responsabilidades.
Los principales riesgos de seguridad para los agentes de IA
Los riesgos más importantes aparecen cuando un agente puede afectar a sistemas, dinero, datos u otras personas:
Pagos no autorizados: podría elegir un producto equivocado, superar un presupuesto o ser manipulado por una página web maliciosa.
Filtración de datos y robo de información: el acceso al correo electrónico, archivos, registros de clientes, código fuente o claves de API crea oportunidades de divulgación, especialmente mediante ataques de inyección de instrucciones.
Daños de seguridad y en el software: el agente podría introducir código inseguro, modificar configuraciones, eliminar recursos o exponer secretos a través de registros y herramientas externas.
Vacíos de responsabilidad: puede resultar difícil determinar qué corresponde al proveedor del modelo, al desarrollador de la aplicación, a la organización que lo implementa, al proveedor de la herramienta o al usuario.
Manipulación: los agentes conversacionales y persistentes pueden ejercer una influencia indebida, sobre todo cuando el usuario es vulnerable o el sistema parece más capaz y fiable de lo que realmente es.
Cómo es una gobernanza responsable
Los controles deben corresponderse con las capacidades del sistema y con las consecuencias de un posible fallo.
En la IA predictiva, las organizaciones deberían definir el propósito, medir la precisión y la equidad, proteger los datos personales y ofrecer formas de explicar o recurrir las decisiones de alto impacto.
En la IA generativa, deberían verificar las afirmaciones importantes, probar las alucinaciones y los resultados perjudiciales, controlar los datos sensibles, abordar la procedencia y la propiedad intelectual, y mantener a profesionales cualificados como responsables de las decisiones jurídicas, médicas, financieras y relacionadas con la protección de las personas.
En el caso de los agentes, los controles técnicos y organizativos deben ir más lejos:
Delimitar el caso de uso. Decidir qué puede y qué no puede hacer el agente antes de implementarlo.
Limitar el acceso. Aplicar credenciales con el mínimo privilegio necesario, herramientas restringidas, límites de transacción y entornos aislados.
Exigir aprobación en puntos de control relevantes. Las acciones financieras, jurídicas, relacionadas con la privacidad o la seguridad no deberían ejecutarse sin la autorización humana adecuada.
Hacer auditable la actividad. Conservar registros, supervisar el comportamiento y asignar claramente la responsabilidad de los incidentes.
Realizar pruebas adversariales. Evaluar la inyección de instrucciones, la extracción de datos, las conductas perjudiciales y la recuperación ante fallos antes de la implementación y durante su funcionamiento.
Conservar el control humano. Las personas deben poder detener, anular y cuestionar las acciones con consecuencias importantes.
La Autoridad de Desarrollo de Medios e Infocomunicaciones de Singapur (IMDA, por sus siglas en inglés) recoge este enfoque basado en el riesgo en su Model AI Governance Framework for Agentic AI, dirigido a organizaciones que desarrollan agentes internamente o implementan soluciones de terceros.
La lección central del marco es graduar la autonomía: comenzar con asistencia de solo lectura, pasar después a acciones de bajo riesgo y reservar las acciones irreversibles o de alto impacto para una aprobación explícita.
Hacia dónde se dirige la IA
La evolución de la inteligencia artificial se entiende mejor como una pila de capacidades en expansión que como tres épocas completamente separadas. Los sistemas tradicionales predicen y clasifican. Los sistemas generativos crean y transforman. Los sistemas agénticos añaden planificación, uso de herramientas y acción.
La gobernanza debe avanzar al mismo ritmo. Los controles de precisión y equidad siguen siendo necesarios, pero ya no bastan. Los sistemas generativos requieren una verificación sólida, prácticas de trazabilidad y medidas de seguridad del contenido. Los agentes necesitan además límites de permisos, puntos de aprobación, supervisión de seguridad y responsabilidades claramente asignadas.
Cuanto más puede hacer un sistema de IA por su cuenta, más cuidadosamente deben decidir las organizaciones qué se le permite hacer.
assets.publishing.service.gov.ukThe safe and effective use of AI in education
