Semáforo para la IA: cómo fijar límites claros en la empresa

Los tribunales de Singapur ofrecen una idea útil para gobernar el uso de la inteligencia artificial en una empresa: clasificar las tareas según cuánta responsabilidad se delega en la tecnología, en vez de limitarse a decir que la IA está «permitida» o que siempre hay «supervisión humana». La orientación de los tribunales permite usar IA generativa para preparar documentos judiciales, pero mantiene en las personas usuarias la responsabilidad de comprobar que el material sea exacto. Las empresas pueden adaptar ese principio a sus propios procesos, sin presentar sus reglas internas como requisitos que impongan los tribunales. 36

Fija los límites según la tarea, no según la herramienta

Una misma herramienta puede servir para redactar un borrador sencillo y no ser adecuada para tomar una decisión que afecte a una persona. Los tribunales de Singapur han descrito un enfoque de semáforo: verde para usos que ayudan a entender información, como traducir o resumir, sin decidir un caso; ámbar para situaciones que requieren más cautela, y rojo para usos que los tribunales no contemplan. 638

En una empresa, los colores pueden convertirse en una estructura práctica para definir permisos y controles. Los ejemplos siguientes son un punto de partida, no una clasificación universal: cada organización debe valorar la tarea concreta, los datos utilizados y las consecuencias de un posible error.

Verde: apoyo para tareas rutinarias

Permite que herramientas aprobadas ayuden con tareas de menor riesgo, como dar formato, traducir, organizar información o preparar un primer borrador. Especifica qué herramientas se pueden usar, qué información puede introducir el personal y si el resultado debe revisarse antes de utilizarse. Deja claro que un borrador generado por IA no constituye, por sí solo, una decisión ni una postura autorizada de la empresa.

Ámbar: preparar el trabajo, no decidir

En tareas con consecuencias relevantes, la IA puede ayudar a organizar pruebas, resumir expedientes o plantear opciones. Exige que una persona responsable compruebe las afirmaciones importantes con los documentos originales, tenga en cuenta el contexto y apruebe el trabajo antes de que influya en alguien.

Verificar de forma independiente significa volver a la fuente o al registro autorizado, no pedirle a otro sistema de IA que confirme la respuesta del primero. La guía de los tribunales de Singapur atribuye a quienes presentan material ante el tribunal la responsabilidad de verificarlo de manera independiente y de asegurar que sea exacto, veraz y apropiado. 3

Rojo: decisiones reservadas a las personas

Una empresa puede reservar a la intervención humana decisiones relacionadas con ámbitos como el empleo, la seguridad o el acceso a servicios esenciales. En esos casos, la IA puede ayudar a preparar el análisis, pero no debería tomar ni activar automáticamente la decisión final. La persona responsable debe evaluar el caso, tener autoridad para rechazar la recomendación del sistema y poder explicar su decisión.

Esta es una salvaguarda corporativa recomendada, no una regla exacta que los tribunales de Singapur hayan fijado para las empresas. El poder judicial ha señalado que la IA puede ayudar a los jueces a leer y resumir material, pero que, por ahora, no se utiliza para sopesar pruebas, aplicar el derecho a los hechos ni ejercer discreción. 40

Publica reglas concretas

Una política pública resulta más útil si explica qué tareas están permitidas que si se limita a expresar un compromiso general con una «IA responsable». Para cada uso autorizado, publica una descripción breve que responda a estas preguntas:

• ¿Qué puede hacer la IA en esta tarea y qué queda fuera de sus límites?
• ¿Qué información puede proporcionar el personal a la herramienta?
• ¿Quién revisa el resultado y con qué fuentes debe contrastarlo?
• ¿Quién conserva la responsabilidad de tomar la decisión final?
• ¿Cómo puede el personal o una persona afectada señalar un problema o cuestionar un error?

Dentro de la empresa, conserva un registro proporcionado del sistema y la tarea, las fuentes consultadas y la persona que aprobó el resultado. Quienes revisan la IA necesitan tiempo y autoridad para discrepar; de lo contrario, la supervisión humana corre el riesgo de convertirse en un trámite.

Revisa los límites y cuida el criterio profesional

La clasificación por colores no debería ser permanente. Prueba cada herramienta en el flujo de trabajo específico, analiza los errores y decide si hacen falta más controles o si conviene suspender el uso. No des por sentado que una afirmación general sobre un modelo se aplica a todas las tareas.

También es importante que el personal conserve oportunidades para practicar el trabajo en el que la IA presta apoyo. El presidente del Tribunal Supremo de Singapur ha advertido que la IA puede transformar tareas jurídicas rutinarias que tradicionalmente ayudaban a los abogados júnior a adquirir conocimientos básicos. 2335 Para las empresas, la lección es más amplia: el personal necesita experiencia suficiente para entender el trabajo, detectar errores y ejercer su propio criterio antes de poder revisar de verdad una respuesta de IA.

Una regla sencilla para aplicar

El semáforo funciona cuando cada color cambia lo que ocurre en la práctica: qué se permite hacer a la IA, qué debe verificar una persona, quién responde por el resultado y cómo se puede cuestionar una decisión. Publica los límites para cada tarea, revísalos cuando cambien las herramientas o los procesos y deja las decisiones de mayor impacto en manos de personas con la capacidad y la autoridad necesarias.