RéponsesPublié19 sources
À Singapour, les entreprises peinent à suivre l’usage de l’IA au travail
Le problème ne tient pas seulement à l’absence de règles : 18 % des organisations interrogées interdisent les outils d’IA non autorisés sans pouvoir détecter les infractions. Parmi les acteurs DevSecOps interrogés à Singapour, 60 % citent la gouvernance comme leur principale charge de travail et 41 % jugent coûteuse...
Publié parModifié avec GPT-6 LunaImages générées avec GPT Image 2
Réponse de recherche
Points clés à retenir
- Le problème ne tient pas seulement à l’absence de règles : 18 % des organisations interrogées interdisent les outils d’IA non autorisés sans pouvoir détecter les infractions.
- Parmi les acteurs DevSecOps interrogés à Singapour, 60 % citent la gouvernance comme leur principale charge de travail et 41 % jugent coûteuse en ressources la revue du code généré par l’IA.
- Pour mieux maîtriser les risques, les entreprises doivent suivre l’ensemble des composants logiciels, dont les modèles d’IA et les services tiers, et relier leur visibilité à des contrôles applicables.
Prompt IA
openai.comCreate a landscape editorial hero image for this Studio Global article: How is employee adoption of shadow AI outpacing governance controls in Singapore companies, and what do JFrog’s Sunny Rao and Splunk’s Chris. Article summary: Employee use of unapproved AI is moving faster than Singapore companies can discover it, review its outputs and enforce internal rules, creating a gap between written governance and operational control. The reported cons. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fa
Les salariés adoptent parfois des outils d’intelligence artificielle plus vite que leur entreprise ne peut les recenser, vérifier leurs résultats et faire appliquer ses règles. À Singapour, plusieurs enquêtes mettent en évidence cet écart entre les politiques affichées et les contrôles réellement en place. 3
5
6
Des règles qui ne suffisent pas à contrôler les usages
On parle d’IA fantôme (« shadow AI ») lorsque des outils d’IA sont utilisés à des fins professionnelles sans approbation ni supervision de l’organisation. Des employés peuvent y recourir pour avancer plus vite, tandis que les équipes informatiques et de sécurité n’ont pas toujours une vue complète des outils employés ou des données qui leur sont transmises. 14
La différence est importante : une politique écrite ne garantit ni qu’elle est respectée, ni que les usages non autorisés peuvent être repérés. Selon une étude de JFrog, 18 % des organisations singapouriennes interrogées avaient des règles contre l’usage d’outils d’IA non autorisés, mais aucun mécanisme pour détecter les infractions. 3
La production logicielle met les équipes sous pression
Une application moderne ne se compose pas uniquement de code écrit en interne. Elle peut aussi intégrer des bibliothèques open source, des services cloud, du code généré par l’IA, des modèles et des outils de fournisseurs tiers. Chacun de ces éléments doit pouvoir être recensé et évalué. 5
Les chiffres de JFrog donnent une idée de la charge de travail : 60 % des acteurs DevSecOps interrogés à Singapour ont désigné la gouvernance et l’application des règles comme leur principal poste de dépense en temps. De plus, 41 % ont indiqué que la revue du code généré par l’IA mobilisait beaucoup de ressources. 5 Ces résultats décrivent les difficultés rapportées par les répondants, sans établir que toutes les entreprises sont exposées au même niveau de risque.
La préparation aux audits pose aussi question. Dans une autre synthèse de l’étude menée à Singapour, 54 % des répondants auraient besoin d’au moins une semaine pour réunir les preuves de conformité d’une seule application. 7 Savoir qui est responsable d’une application ne revient donc pas nécessairement à pouvoir documenter rapidement ses composants et son statut de conformité.
Des risques qui dépassent la revue de code
Quand un outil d’IA n’est pas approuvé et échappe à la supervision de la sécurité, des employés peuvent lui transmettre des informations sensibles, comme du code source ou des données clients. Les recommandations de sécurité sur l’IA fantôme signalent le risque que ces données sortent du contrôle de l’organisation. 23
24
Les résultats produits par l’IA, notamment le code, doivent eux aussi être vérifiés avant leur mise en service. Les données singapouriennes indiquent que cette revue peut mobiliser beaucoup de ressources, mais les sources disponibles ne précisent pas à quelle fréquence des erreurs atteignent des clients ou des systèmes critiques. 5
Une interdiction, à elle seule, ne résout pas le problème si l’entreprise ne peut pas détecter les usages qui persistent. Le constat sur les mécanismes de détection souligne l’enjeu opérationnel : il faut pouvoir repérer les outils utilisés et faire respecter les règles, pas seulement consigner ce qui est interdit. 3
Sécuriser l’ensemble de la chaîne logicielle
Sunny Rao, de JFrog, décrit les applications modernes comme un assemblage de code interne, de composants open source, de services cloud, de code généré par l’IA, de modèles et d’outils tiers. Cette approche élargit le champ de la sécurité : examiner le seul code source interne ne suffit pas à comprendre tout ce qui entre dans une application. 5
Christine Low, de Splunk, évoque un enjeu connexe : les organisations qui veulent développer leurs usages de l’IA doivent composer avec les exigences de conformité, la gouvernance des données et la charge liée aux changements constants. 4 Ensemble, ces constats montrent que la supervision de l’IA ne se limite pas au travail des développeurs. Elle suppose aussi de suivre les données et les dépendances à mesure que les systèmes évoluent.
Les priorités pour les entreprises
Une démarche utile relie l’inventaire des outils et composants à des contrôles que l’organisation peut réellement appliquer :
- Recenser les composants des applications. Inclure les modèles d’IA, les paquets logiciels et les autres éléments utilisés, en plus du code développé en interne.
5
8
- Rendre les règles applicables et vérifiables. Le chiffre de 18 % montre pourquoi une politique doit s’accompagner de moyens pour repérer les usages non autorisés.
3
- Faciliter la production des preuves de conformité. Le délai signalé pour préparer un audit indique qu’un simple registre des responsabilités peut ne pas suffire : les équipes ont aussi besoin d’informations accessibles sur les composants et la gouvernance des applications.
7
- Intégrer la revue des résultats de l’IA aux contrôles logiciels habituels. Le temps consacré à l’examen du code généré rappelle qu’une production plus rapide ne signifie pas automatiquement une livraison sûre plus rapide.
JFrog préconise de gouverner modèles, paquets, extensions et artefacts générés par l’IA dans un même système de référence. 8 Quelle que soit la solution retenue, le principe reste le même : relier ce que l’organisation peut voir à des règles qu’elle peut faire respecter, sur l’ensemble de sa chaîne logicielle et de ses usages de l’IA.
Studio Global AI
Continuez vos recherches
Cette page comprend une réponse basée sur la source que vous pouvez continuer dans Studio Global.
Les gens demandent aussi
Quelle est la réponse courte à « À Singapour, les entreprises peinent à suivre l’usage de l’IA au travail » ?
Le problème ne tient pas seulement à l’absence de règles : 18 % des organisations interrogées interdisent les outils d’IA non autorisés sans pouvoir détecter les infractions.
Quels sont les points clés à valider en premier ?
Le problème ne tient pas seulement à l’absence de règles : 18 % des organisations interrogées interdisent les outils d’IA non autorisés sans pouvoir détecter les infractions. Parmi les acteurs DevSecOps interrogés à Singapour, 60 % citent la gouvernance comme leur principale charge de travail et 41 % jugent coûteuse en ressources la revue du code généré par l’IA.
Que dois-je faire ensuite en pratique ?
Pour mieux maîtriser les risques, les entreprises doivent suivre l’ensemble des composants logiciels, dont les modèles d’IA et les services tiers, et relier leur visibilité à des contrôles applicables.
Sources
frontier-enterprise.comSingapore's innovation faces a new risk: Shadow AI