Wie Singapur KI in der Verwaltung skaliert, ohne autonomen Agenten freie Hand zu lassen

Singapur verfolgt beim Einsatz von KI im öffentlichen Dienst einen systematischen Ansatz: Der Zugang zu den Werkzeugen soll wachsen – gleichzeitig sollen Agenten, Tools und Daten durch verbindliche Kontrollen eingehegt werden. Der AI Assistant Desk der Government Technology Agency (GovTech) und das geplante KI-Agentenregister sollen sichtbar machen, welche Systeme eingesetzt werden, wem sie zugeordnet sind und wie sie arbeiten, während die Nutzung auf rund 150.000 Beschäftigte ausgeweitet wird.

Das Vorhaben befindet sich noch in der Entwicklung und wird derzeit mit ausgewählten Beschäftigten erprobt. Ein breiterer Rollout ist für später im Jahr 2026 vorgesehen. Die Bedeutung liegt daher weniger in einem weiteren Chatbot als in einer gemeinsamen Betriebsschicht für die KI-Governance der gesamten Verwaltung.

Das Register soll Verantwortlichkeit schaffen

Im Register soll festgehalten werden, wer für einen KI-Agenten verantwortlich ist, welche Aufgaben er übernehmen darf und wie er genutzt wird. Behörden können ein automatisiertes System damit einer zuständigen Person oder Stelle zuordnen und seine Aktivitäten im Zeitverlauf überprüfen.

Das ist entscheidend, weil ein Agent mehr kann als Texte zu erzeugen. Je nach Berechtigungen und angebundenen Systemen kann er Entscheidungen vorbereiten, Werkzeuge aufrufen oder Aufgaben mit Maschinengeschwindigkeit ausführen. Ein Register ist deshalb nicht bloß ein Softwareverzeichnis, sondern ein Inventar für digitale Arbeitskräfte – mit einer klaren Zuordnung von Zuständigkeiten.

GovTech beschreibt den AI Assistant Desk als sichere digitale Assistenzumgebung für Beschäftigte des öffentlichen Dienstes. Zu den erwarteten Anwendungsfällen zählen das Verfassen von Berichten, Terminverwaltung, Programmierung, Recherche und weitere Routineaufgaben.

Technische Leitplanken begrenzen den Handlungsspielraum

Das geplante Modell setzt nicht allein auf die eingebauten Schutzmechanismen einzelner KI-Modelle. Stattdessen soll die umgebende Plattform Sicherheitsregeln technisch durchsetzen. Zu den genannten Kontrollen gehören:

• konfigurierbare Regeln für unterschiedliche Behörden und Anwendungsfälle;
• zugelassene beziehungsweise sanktionierte KI-Werkzeuge;
• Sperren für Aktionen wie das Löschen von Dateien oder den Versand externer E-Mails;
• Begrenzungen der Empfängerzahl, um unkontrollierte Verteilung und Spam zu reduzieren; sowie
• automatische Prüfungen von Prompts und Ausgaben auf beleidigende Sprache und weitere problematische Inhalte.

Dahinter steht das Prinzip der geringsten Berechtigung: Ein Agent soll nur den Zugriff und den Handlungsspielraum erhalten, die er für seine konkrete Aufgabe benötigt. Das ist besonders relevant, wenn Behörden verschiedene Modelle einsetzen oder Agenten mit sensiblen Regierungssystemen verbinden.

Die Sicherheitsarchitektur soll Modellwechsel überdauern

Mit AI Guardian stellt GovTech eine separate Governance-Schicht für KI-Anwendungen bereit. Die beiden genannten Komponenten erfüllen unterschiedliche Aufgaben: Litmus bewertet Sicherheits- und Schutzrisiken vor dem Einsatz, unter anderem durch adversariales Testen. Sentinel übernimmt im laufenden Betrieb die Inhaltsmoderation und filtert Ausgaben in Echtzeit.

Die Trennung vom zugrunde liegenden Modell kann die Abhängigkeit von einem einzelnen Anbieter verringern. GovTech hat zudem erklärt, dass die Sicherheitsarchitektur des Assistant Desk ihre Schutzfunktionen auch dann beibehalten soll, wenn externe KI-Werkzeuge ergänzt oder ausgetauscht werden.

Der Grundgedanke ist wichtig: Ein Modell kann wechseln, die staatlichen Anforderungen an Datenschutz, zulässige Aktionen, Überwachung und Ausgabensicherheit sollten jedoch stabil bleiben. GovTech nennt Sicherheit, Robustheit, Schutz und Privatsphäre, Erklärbarkeit sowie Transparenz als zentrale Anforderungen an verantwortungsvolle KI.

Einführung und Kompetenzaufbau gehen Hand in Hand

Singapurs Programm beschränkt sich nicht auf autonome Agenten. Der GovTech-Assistent Pair unterstützt bereits beim Schreiben, Recherchieren, Zusammenfassen und Analysieren auf dienstlich ausgegebenen Geräten. Er ist auch für Arbeiten mit sensiblen Regierungsdaten zugelassen, die kommerzielle Chatbots nicht verarbeiten dürfen.

Darüber hinaus entwickelt GovTech KI-gestützte Softwareentwicklung und Low-Code-Ansätze. Damit sollen technische Teams und Beschäftigte schneller Prototypen erstellen oder Arbeitsabläufe automatisieren können. Frühere Berichte von GovTech beschrieben Pläne für KI-Codeassistenten, KI-gestützte Entwicklungsprozesse und Werkzeuge, die Behörden beim Übergang von Prototypen in sicherere Umgebungen unterstützen sollen.

Auch Schulungen gehören zur Infrastruktur. GovTech stellt Lernangebote zu Daten und KI für Beschäftigte des öffentlichen Dienstes bereit. Singapurs übergreifende Arbeitsmarktplanung sieht zudem KI-Programme für technische Fachkräfte vor, die an automatisierter Programmierung und agentischen Systemen arbeiten.

Das praktische Ziel ist der Aufbau eigener Fähigkeiten: Beschäftigte müssen beurteilen können, wann KI sinnvoll ist; technische Teams müssen ihre Entwicklungen testen und absichern; und Behörden brauchen gemeinsame Plattformen statt einer Ansammlung voneinander getrennter Experimente.

Verwaltungsprojekte zeigen, warum Evaluation zählt

Die Arbeit an LangBuddy verdeutlicht, weshalb KI-Anwendungen an ihrem tatsächlichen Zweck gemessen werden müssen. LangBuddy ist ein sprachgesteuerter KI-Chatbot, mit dem Schülerinnen und Schüler ihre Muttersprachen durch Gespräche üben können.

Bei einem solchen Produkt reicht es nicht aus, dass der Chatbot flüssige Antworten formuliert. GovTech untersucht unter anderem Sicherheitsrisiken, die Gefahr von Halluzinationen und die Frage, ob die Antworten den vorgesehenen pädagogischen Regeln folgen.

Dieses Prinzip lässt sich auf andere öffentliche Dienstleistungen übertragen: Behörden müssen prüfen, ob ein KI-System die vorgesehene Aufgabe erfüllt, seine Einschränkungen einhält und sich in realistischen Interaktionen akzeptabel verhält – nicht nur, ob es überzeugend klingt.

Cybersicherheit ist Voraussetzung und Anwendungsfall zugleich

Dieselbe Governance-Philosophie zeigt sich in GovTechs Arbeit an der Cybersicherheit. Zu den genannten Fähigkeiten gehören die sichere Gestaltung von Systemen, Red-Team-Übungen, Penetrationstests, ein Programm zur Meldung von Schwachstellen durch externe Sicherheitsforscher sowie Blue-Team-Funktionen zur Erkennung und Abwehr von Bedrohungen.

GovTech erprobt außerdem KI-gestützte Penetrationstests und eine automatisierte Priorisierung von Sicherheitsvorfällen in Security Operations Centern. Damit wird KI auf beiden Seiten des Sicherheitsprozesses eingesetzt: zur Suche nach Schwachstellen und zur Unterstützung der Verteidigung.

In einigen Berichten ist im Zusammenhang mit der Ausweitung von Sicherheitstests von mehr als 2.000 staatlichen Digitalsystemen die Rede. Das vorliegende Material belegt die grundsätzliche Ausrichtung auf Red-Teaming, Penetrationstests und KI-gestützte Sicherheitsoperationen. Es belegt jedoch nicht, dass bereits jedes dieser Systeme kontinuierlich durch KI getestet wird.

Was das für Singapurs Gesamtstrategie bedeutet

Zusammengenommen zahlen die Initiativen auf drei miteinander verbundene Ziele ein:

1. Bessere öffentliche Dienstleistungen: Assistenten und Agenten können beim Schreiben, Analysieren, Programmieren und bei Routineabläufen helfen. Dadurch bleibt Beschäftigten mehr Zeit für komplexe Fälle und den direkten Kontakt mit Bürgerinnen und Bürgern.
2. Stärkere technologische Eigenständigkeit: Gemeinsame Plattformen, Evaluationswerkzeuge, Sicherheitskomponenten und Schulungen helfen Singapur, internes Know-how aufzubauen, anstatt vollständig von einem Modellanbieter oder kommerziellen Produkt abhängig zu sein.
3. Schutz von Vertrauen und kritischen Systemen: Register, Berechtigungen, Prüfungen, Protokollierbarkeit und Cyberabwehr schaffen Aufsicht, während KI Zugang zu Verwaltungsarbeit und staatlichen Daten erhält.

Die zentrale Lehre lautet: KI sicher zu skalieren ist ebenso eine Architekturaufgabe wie eine Frage des verwendeten Modells. Singapur versucht, KI in der Verwaltung breit verfügbar zu machen und zugleich Verantwortlichkeiten, Berechtigungen, Tests und Aktivitätsüberwachung für die zuständigen Institutionen sichtbar zu halten.