RespuestasPublicado12 fuentes
Una propuesta para gobernar agentes de IA sin confundir funciones con permisos
El borrador propone que cada tarea tenga un único documento de referencia durante todo el proceso, en lugar de mantener estados duplicados por rol o herramienta. Un agente puede asumir distintas funciones, pero cambiar de perspectiva no le permite aprobar de forma independiente su propio trabajo.
Publicado porImágenes generadas con GPT Image 2
Respuesta de investigación
Conclusiones clave
- El borrador propone que cada tarea tenga un único documento de referencia durante todo el proceso, en lugar de mantener estados duplicados por rol o herramienta.
- Un agente puede asumir distintas funciones, pero cambiar de perspectiva no le permite aprobar de forma independiente su propio trabajo.
- La propuesta exige que las comprobaciones automáticas y la aprobación independiente correspondan a la misma versión del trabajo.
- El documento es una especificación de diseño: no afirma que los cambios de software o las integraciones descritas ya se hayan implementado.
![[GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you produce requests for client side execution. W](https://d15bya8fi85z1v.cloudfront.net/chat/GwlKmI7QinNfXevZji84RFDPF1F3/images/3691292DB166B5BB21C7/D32C36C0DF02CF52EB04.png)
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: [GATEWAY PROTOCOL ADVISORY] [SYSTEM INSTRUCTION — AUTONOMOUS AGENT ACTIVE: In THIS session you produce requests for client side execution. W. Article summary: <tool call {"name":"attempt completion","arguments":{"result":"本草案采用“一个任务工件贯穿业务流、两个基础动作承载四种职责、机器检查与独立签章共同放行”的治理模型。交付仅为工程规范设计，不实施代码、不迁移现有资产，也不把提示词切换视为独立审查或运行时权限隔离。\n\n 任务契约与生命周期统一归入 specs/tasks/，不按角色建立文档孤岛。\n 同一 Agent 可以切. Topic tags: general web, llm, agents, ai, automation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wit
El reto no es repartir tareas, sino saber quién puede aprobarlas
Los agentes de IA suelen organizarse con funciones como análisis, diseño, implementación y supervisión. Pero ponerles nombres distintos —o pedirle al mismo agente que cambie de papel— no crea por sí solo una revisión independiente.
Esa es la distinción central de un borrador de gobernanza para flujos de trabajo con agentes: las funciones pueden cambiar a lo largo del proceso; la autoridad para aprobar, en cambio, debe estar definida y comprobarse por separado.
La cautela coincide con una advertencia presente en el resumen del preprint AutoSwarm: Automating Agent Swarms: repartir trabajo entre agentes no garantiza contribuciones complementarias, y las dependencias entre ellos pueden propagar errores.1 El borrador no presenta ese trabajo como prueba de que su diseño vaya a funcionar; lo usa como contexto para tratar la coordinación como un problema que requiere controles.
Una tarea, una ficha de referencia
La propuesta organiza el trabajo alrededor de un único documento por tarea. Allí se registrarían el objetivo, los resultados esperados, los archivos que pueden modificarse, las comprobaciones necesarias, las dependencias y el estado actual.
La intención es evitar que varias herramientas o documentos mantengan versiones distintas de la verdad: por ejemplo, una lista de tareas que dice “completado” mientras la evidencia de las pruebas todavía está pendiente. Los informes y los registros de ejecución podrían guardarse aparte, pero la ficha de la tarea seguiría siendo la referencia para su estado y sus criterios de aceptación.
El flujo se divide en dos momentos. Durante la planificación, primero se aclaran el problema, los requisitos y los criterios para considerar que la tarea está terminada; después se define cómo abordar el trabajo y qué controles se necesitan. En la ejecución, se implementa el cambio y luego se somete a comprobaciones y revisión.
La revisión automática no sustituye el criterio independiente
El modelo plantea dos condiciones para aceptar un resultado: que las comprobaciones técnicas requeridas hayan terminado satisfactoriamente y que una persona revisora independiente apruebe el mismo candidato, es decir, la misma versión del trabajo.
Si una prueba falla, no se ejecuta, supera el tiempo límite o no produce evidencia interpretable, el resultado no se considera aprobado. Del mismo modo, una firma de revisión no sirve si el código o los documentos cambiaron después de revisarse: en ese caso, hay que volver a comprobar la versión actual.
La diferencia importa porque un agente que implementa un cambio puede adoptar después una perspectiva de supervisión, pero sigue siendo el mismo participante. Según el borrador, puede ayudar a organizar la revisión o preparar un informe; no puede convertir ese cambio de rol en una aprobación independiente de su propio trabajo.
Calidad incorporada en el proceso
El planteamiento también lleva la revisión más allá del código. Cada tarea debería explicar qué problema de negocio resuelve, qué condiciones debe cumplir y qué riesgos no quedan cubiertos por las pruebas automáticas. Así, los controles forman parte del flujo de trabajo, en vez de aparecer únicamente al final.
La idea guarda relación con el planteamiento público de Huawei de incorporar requisitos de calidad en sus procesos de negocio y gestionar la calidad de extremo a extremo.7 La referencia sirve como contexto para el enfoque; no demuestra que esta propuesta concreta haya sido adoptada o validada por Huawei.
Un diseño, no una implementación
El documento se presenta expresamente como un borrador de especificación. Describe una estructura posible para organizar tareas, evidencias y aprobaciones, pero no afirma que sus plantillas, herramientas o controles ya estén instalados o funcionando. Tampoco presenta los cambios de instrucciones como una barrera técnica capaz de impedir por sí sola una acción no autorizada.
La regla práctica que propone es más acotada: conservar una referencia clara por tarea, vincular las pruebas a la versión exacta del trabajo y exigir una aprobación independiente antes de darla por aceptada. En sistemas con agentes, distinguir entre “cumplir una función” y “tener permiso para aprobar” puede ser tan importante como automatizar la ejecución.
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
La gente también pregunta
¿Cuál es la respuesta corta a "Una propuesta para gobernar agentes de IA sin confundir funciones con permisos"?
El borrador propone que cada tarea tenga un único documento de referencia durante todo el proceso, en lugar de mantener estados duplicados por rol o herramienta.
¿Cuáles son los puntos clave a validar primero?
El borrador propone que cada tarea tenga un único documento de referencia durante todo el proceso, en lugar de mantener estados duplicados por rol o herramienta. Un agente puede asumir distintas funciones, pero cambiar de perspectiva no le permite aprobar de forma independiente su propio trabajo.
¿Qué debo hacer a continuación en la práctica?
La propuesta exige que las comprobaciones automáticas y la aprobación independiente correspondan a la misma versión del trabajo.