AntwortenVeröffentlicht19 Quellen
Schatten-KI in Singapur: Die Lücke zwischen Richtlinien und Kontrolle
Die Herausforderung bei Schatten KI ist nicht nur das Fehlen von Regeln: 18 Prozent der befragten Unternehmen in Singapur hatten Richtlinien gegen nicht genehmigte KI Tools, aber keine Möglichkeit, Verstöße zu erkennen. 60 Prozent der befragten DevSecOps Fachleute nannten Governance und die Durchsetzung von Richtlin...
Veröffentlicht vonBearbeitet mit GPT-6 LunaBilder erstellt mit GPT Image 2
Forschungsantwort
Wichtige Erkenntnisse
- Die Herausforderung bei Schatten KI ist nicht nur das Fehlen von Regeln: 18 Prozent der befragten Unternehmen in Singapur hatten Richtlinien gegen nicht genehmigte KI Tools, aber keine Möglichkeit, Verstöße zu erkennen.
- 60 Prozent der befragten DevSecOps Fachleute nannten Governance und die Durchsetzung von Richtlinien als größte Zeitbelastung; 41 Prozent fanden die Prüfung KI generierten Codes ressourcenintensiv.
- Wer Anwendungen absichern will, muss neben eigenem Quellcode auch KI Modelle, Open Source Komponenten und weitere Drittanbieter Bausteine im Blick behalten.
KI-Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How is employee adoption of shadow AI outpacing governance controls in Singapore companies, and what do JFrog’s Sunny Rao and Splunk’s Chris. Article summary: Employee use of unapproved AI is moving faster than Singapore companies can discover it, review its outputs and enforce internal rules, creating a gap between written governance and operational control. The reported cons. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fa
Mitarbeitende können KI-Tools schnell in ihren Arbeitsalltag aufnehmen. Für Unternehmen ist es oft schwieriger, den Überblick zu behalten: Welche Werkzeuge werden genutzt, welche Daten fließen hinein und wie lassen sich interne Vorgaben durchsetzen? Umfrageergebnisse aus Singapur deuten auf eine Lücke zwischen formalen Richtlinien und ihrer Umsetzung im Alltag hin. 3
5
6
Regeln gibt es – doch werden Verstöße erkannt?
Als Schatten-KI bezeichnet man KI-Tools, die Mitarbeitende für die Arbeit nutzen, ohne dass das Unternehmen sie genehmigt oder überwacht. Das kann aus dem Wunsch entstehen, Aufgaben schneller zu erledigen. Für IT- und Sicherheitsteams entsteht dabei ein blinder Fleck: Sie wissen möglicherweise nicht, welche Werkzeuge im Einsatz sind oder welche Informationen dort eingegeben werden. 14
Eine Richtlinie auf dem Papier bedeutet noch nicht, dass sich Verstöße erkennen oder verhindern lassen. Laut einer JFrog-Erhebung hatten 18 Prozent der befragten Unternehmen in Singapur Vorgaben gegen nicht genehmigte KI-Tools, aber keinen Mechanismus, um Verstöße aufzuspüren. 3
Mehr Bausteine, mehr Prüfaufwand
Moderne Anwendungen bestehen längst nicht nur aus selbst geschriebenem Quellcode. Zum Einsatz kommen auch Open-Source-Pakete, Cloud-Dienste, KI-generierter Code, Modelle und Werkzeuge von Drittanbietern. Jede dieser Komponenten kann für Unternehmen relevant sein, wenn sie Herkunft, Einsatz und Risiken einer Anwendung nachvollziehen wollen. 5
Wie groß der Aufwand sein kann, zeigen weitere JFrog-Ergebnisse: 60 Prozent der befragten DevSecOps-Fachleute in Singapur nannten Governance und die Durchsetzung von Richtlinien als ihre größte Zeitbelastung. 41 Prozent stuften die Prüfung KI-generierten Codes als ressourcenintensiv ein. 5 Die Zahlen beschreiben die Einschätzungen der Befragten – sie belegen nicht, dass jedes Unternehmen gleichermaßen betroffen ist.
Auch die Vorbereitung auf Audits kann Zeit kosten: In einer separaten Darstellung der JFrog-Erhebung gaben 54 Prozent der Befragten an, mindestens eine Woche zu benötigen, um für eine Anwendung Compliance-Nachweise zusammenzustellen. 7 Zu wissen, wer für eine Anwendung zuständig ist, ist also nicht dasselbe, wie ihre Bestandteile und ihren Compliance-Status schnell belegen zu können.
Das Risiko betrifft auch sensible Daten
Werden nicht genehmigte KI-Tools außerhalb der Sicherheitskontrollen des Unternehmens genutzt, können Mitarbeitende sensible Informationen eingeben – etwa Quellcode oder Kundendaten. Sicherheitsinformationen zu Schatten-KI weisen darauf hin, dass Daten dadurch der Kontrolle des Unternehmens entzogen werden können. 23
24
Auch KI-generierter Code sollte geprüft werden, bevor er eingesetzt wird. Die vorliegenden Zahlen aus Singapur zeigen, dass diese Prüfung Ressourcen bindet. Sie geben jedoch keinen Aufschluss darüber, wie häufig Fehler tatsächlich bei Kundinnen und Kunden oder in kritischen Systemen ankommen. 5
Ein Verbot allein schließt die Sichtbarkeitslücke nicht, wenn Mitarbeitende weiterhin Tools nutzen, die das Unternehmen nicht erkennt. Der Befund zu nicht durchsetzbaren Richtlinien unterstreicht deshalb eine praktische Priorität: Unternehmen müssen KI-Nutzung aufspüren und Regeln im Alltag anwenden können – nicht nur festhalten, was untersagt ist. 3
Sicherheit endet nicht beim Quellcode
JFrogs Sunny Rao beschreibt moderne Anwendungen als Zusammenspiel aus internem Code, Open-Source-Paketen, Cloud-Diensten, KI-generiertem Code, Modellen und Drittanbieter-Tools. Damit verschiebt sich der Blick: Für die Sicherheit zählt nicht nur, was Entwicklerinnen und Entwickler selbst schreiben, sondern auch, welche weiteren Komponenten in eine Anwendung einfließen. 5
Splunks Christine Low verweist auf verwandte Herausforderungen: Unternehmen, die KI ausbauen wollen, müssen zugleich Anforderungen an Compliance und Daten-Governance sowie den betrieblichen Aufwand ständiger Veränderungen bewältigen. 4 Zusammengenommen machen diese Perspektiven deutlich, dass KI-Aufsicht nicht allein eine Frage der Codeprüfung ist. Auch Daten und Abhängigkeiten müssen berücksichtigt werden, während sich Systeme verändern.
Was Unternehmen tun können
Ein wirksamer Ansatz verbindet Überblick mit Kontrollen, die sich tatsächlich durchsetzen lassen:
- Anwendungsbestandteile erfassen: Neben internem Code sollten auch KI-Modelle, Pakete und weitere Softwarekomponenten berücksichtigt werden.
5
8
- Richtlinien überprüfbar machen: Der Befund zu den 18 Prozent zeigt, warum Regeln mit Möglichkeiten zur Erkennung nicht genehmigter Tools einhergehen müssen.
3
- Compliance-Nachweise leichter zugänglich machen: Die berichtete Verzögerung bei Audits legt nahe, dass Zuständigkeiten allein nicht genügen. Teams brauchen auch schnell verfügbare Informationen zu Komponenten und Governance einer Anwendung.
7
- KI-Ergebnisse in die reguläre Sicherheitsprüfung einbeziehen: Wenn die Prüfung KI-generierten Codes Zeit kostet, sollte dieser wie andere Bestandteile einer Anwendung bewertet werden – statt anzunehmen, dass schnellere Generierung automatisch eine schnellere und sichere Bereitstellung bedeutet.
JFrog empfiehlt, Modelle, Pakete, Plugins und KI-generierte Artefakte in einem gemeinsamen System zu erfassen und zu verwalten. 8 Unabhängig davon, welche Werkzeuge ein Unternehmen einsetzt, bleibt der Kern derselbe: Was sichtbar ist, muss mit Kontrollen verknüpft werden, die sich in der gesamten Software- und KI-Lieferkette durchsetzen lassen.
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Die Leute fragen auch
Wie lautet die kurze Antwort auf „Schatten-KI in Singapur: Die Lücke zwischen Richtlinien und Kontrolle“?
Die Herausforderung bei Schatten KI ist nicht nur das Fehlen von Regeln: 18 Prozent der befragten Unternehmen in Singapur hatten Richtlinien gegen nicht genehmigte KI Tools, aber keine Möglichkeit, Verstöße zu erkennen.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
Die Herausforderung bei Schatten KI ist nicht nur das Fehlen von Regeln: 18 Prozent der befragten Unternehmen in Singapur hatten Richtlinien gegen nicht genehmigte KI Tools, aber keine Möglichkeit, Verstöße zu erkennen. 60 Prozent der befragten DevSecOps Fachleute nannten Governance und die Durchsetzung von Richtlinien als größte Zeitbelastung; 41 Prozent fanden die Prüfung KI generierten Codes ressourcenintensiv.
Was soll ich als nächstes in der Praxis tun?
Wer Anwendungen absichern will, muss neben eigenem Quellcode auch KI Modelle, Open Source Komponenten und weitere Drittanbieter Bausteine im Blick behalten.
Quellen
frontier-enterprise.comSingapore's innovation faces a new risk: Shadow AI