RespuestasPublicado19 fuentes
Singapur intenta cerrar la brecha entre el uso de IA y su supervisión
El reto de la IA en la sombra no es solo establecer reglas: también hay que detectar su uso y hacer cumplir las políticas. El 60 % de los responsables de DevSecOps encuestados en Singapur señala que la gobernanza y la aplicación de políticas son su mayor carga de trabajo; el 41 % dice que revisar código generado por...
Publicado porEditado con GPT-6 LunaImágenes generadas con GPT Image 2
Respuesta de investigación
Conclusiones clave
- El reto de la IA en la sombra no es solo establecer reglas: también hay que detectar su uso y hacer cumplir las políticas.
- El 60 % de los responsables de DevSecOps encuestados en Singapur señala que la gobernanza y la aplicación de políticas son su mayor carga de trabajo; el 41 % dice que revisar código generado por IA consume muchos recu...
- La supervisión debe abarcar toda la cadena de suministro de software —incluidos modelos de IA y componentes de terceros—, no solo el código escrito internamente.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: How is employee adoption of shadow AI outpacing governance controls in Singapore companies, and what do JFrog’s Sunny Rao and Splunk’s Chris. Article summary: Employee use of unapproved AI is moving faster than Singapore companies can discover it, review its outputs and enforce internal rules, creating a gap between written governance and operational control. The reported cons. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fa
El uso de herramientas de inteligencia artificial puede extenderse por una empresa más rápido de lo que sus equipos de seguridad y tecnología pueden identificarlas, revisar sus resultados y aplicar las normas internas. En Singapur, los datos disponibles apuntan a una brecha entre tener políticas de gobernanza y llevarlas a la práctica en todo el software y los componentes de IA que utilizan los empleados y los equipos de desarrollo. 3
5
6
El problema no es solo tener una política
Se habla de IA en la sombra cuando los empleados utilizan herramientas de inteligencia artificial para trabajar sin aprobación ni supervisión de la organización. Puede que recurran a ellas para resolver tareas con rapidez, mientras que los equipos de tecnología y seguridad no tienen una visión completa de su uso ni de la información que se comparte. 14
La diferencia es importante: contar con una política escrita no demuestra que el personal la siga ni que la empresa pueda detectar herramientas no autorizadas. Según una investigación de JFrog, el 18 % de las organizaciones de Singapur tenía políticas contra el uso de herramientas de IA no autorizadas, pero carecía de mecanismos para detectar incumplimientos. 3
Más componentes, más presión para revisar
Las aplicaciones actuales no se componen únicamente de código escrito dentro de la empresa. También pueden integrar paquetes de código abierto, servicios en la nube, código generado por IA, modelos y herramientas de terceros. Cada elemento amplía el conjunto de componentes que una organización debe identificar y evaluar. 5
Los datos de JFrog reflejan la carga que eso supone: el 60 % de los responsables de DevSecOps encuestados en Singapur señaló que la gobernanza y la aplicación de políticas eran su mayor carga de trabajo; el 41 % dijo que revisar código generado por IA requería muchos recursos. 5 Son presiones declaradas por los participantes, no una medida del riesgo de todas las empresas.
Otro informe sobre el estudio de JFrog en Singapur apunta a una dificultad para prepararse para auditorías: el 54 % de los encuestados habría necesitado al menos una semana para reunir pruebas de cumplimiento de una sola aplicación. 7 Saber quién es responsable de una aplicación no equivale a poder documentar rápidamente sus componentes y su situación de cumplimiento.
Los riesgos van más allá de los errores en el código
Si las herramientas de IA no autorizadas quedan fuera de la supervisión de seguridad, los empleados pueden introducir en ellas información sensible, como código fuente o datos de clientes. Las guías de seguridad identifican el traslado de datos sensibles fuera del control de una organización como uno de los riesgos de la IA en la sombra. 23
24
El código y otros resultados generados por IA también necesitan revisión antes de ponerse en uso. Los datos de Singapur indican que esa revisión puede consumir muchos recursos, pero la información disponible aquí no permite cuantificar con qué frecuencia los errores llegan a clientes o sistemas críticos. 5
Una prohibición, por sí sola, no resuelve la falta de visibilidad si los empleados siguen usando herramientas que la empresa no puede detectar. El dato sobre la falta de mecanismos de control apunta a una prioridad operativa: descubrir qué IA se está usando y aplicar las reglas en la práctica, además de dejar por escrito qué está prohibido. 3
La seguridad abarca toda la cadena de suministro
Sunny Rao, de JFrog, describe las aplicaciones modernas como una combinación de código interno, paquetes de código abierto, servicios en la nube, código generado por IA, modelos y herramientas de terceros. Esta perspectiva lleva la atención de seguridad más allá del código fuente y hacia el conjunto de componentes que forman una aplicación. 5
Christine Low, de Splunk, señala un desafío relacionado: las organizaciones que quieren ampliar el uso de IA deben gestionar requisitos de cumplimiento, gobernanza de datos y cambios constantes en sus operaciones. 4 En conjunto, estas perspectivas muestran que supervisar la IA no es solo una tarea de revisión para desarrolladores; también exige gestionar los datos y las dependencias a medida que los sistemas evolucionan.
Qué pueden hacer las empresas
Una respuesta práctica conecta la visibilidad con controles que puedan aplicarse:
- Identificar los componentes de las aplicaciones. Incluir modelos de IA, paquetes y otros elementos de software, además del código escrito internamente.
5
8
- Hacer que las políticas puedan detectarse y aplicarse. El dato del 18 % muestra por qué las reglas deben acompañarse de mecanismos para identificar el uso de herramientas no autorizadas.
3
- Agilizar la recopilación de pruebas de cumplimiento. La demora señalada para prepararse para una auditoría sugiere que registrar quién es responsable no basta: también hace falta acceder fácilmente a la información sobre los componentes y la gobernanza de cada aplicación.
7
- Incorporar la revisión de resultados de IA a la seguridad habitual del software. La carga de revisión reportada refuerza la necesidad de evaluar el código generado por IA, en lugar de asumir que producirlo más rápido significa desplegarlo de forma segura más rápido.
JFrog propone gobernar modelos, paquetes, complementos y artefactos generados por IA mediante un sistema de registro compartido. 8 Sea cual sea la herramienta elegida, el principio es el mismo: vincular lo que la organización puede ver con controles que pueda hacer cumplir en toda la cadena de suministro de software e IA.
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
La gente también pregunta
¿Cuál es la respuesta corta a "Singapur intenta cerrar la brecha entre el uso de IA y su supervisión"?
El reto de la IA en la sombra no es solo establecer reglas: también hay que detectar su uso y hacer cumplir las políticas.
¿Cuáles son los puntos clave a validar primero?
El reto de la IA en la sombra no es solo establecer reglas: también hay que detectar su uso y hacer cumplir las políticas. El 60 % de los responsables de DevSecOps encuestados en Singapur señala que la gobernanza y la aplicación de políticas son su mayor carga de trabajo; el 41 % dice que revisar código generado por IA consume muchos recu...
¿Qué debo hacer a continuación en la práctica?
La supervisión debe abarcar toda la cadena de suministro de software —incluidos modelos de IA y componentes de terceros—, no solo el código escrito internamente.
Fuentes
frontier-enterprise.comSingapore's innovation faces a new risk: Shadow AI