Singapur skaluje AI w administracji, ale nie daje agentom wolnej ręki

To istotne, ponieważ agent AI może robić znacznie więcej niż generować tekst. W zależności od uprawnień i integracji może podejmować decyzje, wywoływać narzędzia albo wykonywać zadania z szybkością niedostępną dla człowieka. Rejestr pełni więc funkcję spisu cyfrowych pracowników i mechanizmu odpowiedzialności, a nie tylko katalogu oprogramowania.

GovTech, centralna agencja technologiczna Singapuru, opisuje AI Assistant Desk jako bezpieczne środowisko cyfrowych asystentów dla urzędników. Przewidywane zastosowania obejmują między innymi przygotowywanie raportów, zarządzanie kalendarzem, programowanie i pracę badawczą.

O tym, co może zrobić agent, mają decydować techniczne ograniczenia

Model bezpieczeństwa zakłada kontrolowanie całego otoczenia systemu, a nie poleganie wyłącznie na zabezpieczeniach wbudowanych w konkretny model AI. Wśród opisywanych mechanizmów znajdują się:

• konfigurowalne reguły dla poszczególnych agencji i zastosowań;
• zatwierdzone narzędzia AI;
• blokady działań takich jak usuwanie plików czy wysyłanie wiadomości e-mail poza organizację;
• ograniczenia dotyczące liczby i listy odbiorców, które mają zmniejszać ryzyko niekontrolowanej dystrybucji lub spamu;
• automatyczne kontrole promptów i odpowiedzi pod kątem obraźliwego języka oraz innych problemów jakościowych.

To podejście odpowiada zasadzie minimalnych uprawnień: agent powinien mieć wyłącznie taki dostęp i zakres działania, jaki jest potrzebny do wykonania konkretnego zadania. Ma to szczególne znaczenie, gdy administracja korzysta z wielu modeli albo łączy agentów z wrażliwymi systemami państwowymi.

Warstwa bezpieczeństwa ma działać także po zmianie modelu

AI Guardian firmy GovTech zapewnia oddzielną warstwę zarządzania i testowania bezpieczeństwa aplikacji AI. Dwa jej elementy odpowiadają za różne etapy cyklu życia systemu: Litmus ocenia ryzyko bezpieczeństwa przed wdrożeniem, wykorzystując testy adwersarialne, natomiast Sentinel po uruchomieniu aplikacji prowadzi moderację treści w czasie rzeczywistym i filtruje odpowiedzi.

Oddzielenie tych funkcji od podstawowego modelu może ograniczyć zależność od jednego dostawcy. GovTech deklaruje również, że architektura bezpieczeństwa AI Assistant Desk ma zachować ochronę nawet wtedy, gdy dodawane są narzędzia firm trzecich albo zastępowane są istniejące rozwiązania.

Różnica jest zasadnicza: model może się zmienić, ale wymagania dotyczące ochrony danych, dozwolonych działań, monitorowania i bezpieczeństwa odpowiedzi powinny pozostać stabilne. W swoich ramach odpowiedzialnego AI GovTech wskazuje jako podstawowe wymagania bezpieczeństwo, odporność, ochronę i prywatność, wyjaśnialność oraz przejrzystość.

Wdrożeniom towarzyszy rozwój kompetencji

Program Singapuru nie ogranicza się do autonomicznych agentów. Rządowy asystent Pair wspiera już pisanie, wyszukiwanie informacji, podsumowywanie i analizę na urządzeniach służbowych. Jest zatwierdzony także do pracy z wrażliwymi danymi rządowymi, których nie można bezpiecznie wprowadzać do komercyjnych chatbotów.

GovTech rozwija również narzędzia wspomagające tworzenie oprogramowania przez AI oraz rozwiązania low-code, aby zespoły techniczne i urzędnicy mogli szybciej budować prototypy i automatyzować procesy. Wcześniejsze informacje GovTech obejmowały plany wdrożenia asystentów programistycznych, wspomaganego przez AI procesu inżynieryjnego oraz narzędzi, które mają pomagać agencjom przenosić prototypy do bezpieczniejszych środowisk.

Kolejnym elementem infrastruktury jest szkolenie. GovTech udostępnia urzędnikom materiały z zakresu danych i AI, a szersze plany dotyczące rozwoju kadr w Singapurze obejmują programy rozwijające umiejętności AI u specjalistów technologicznych pracujących nad automatyzacją kodowania i systemami agentowymi.

Praktyczny cel jest prosty: administracja ma budować własne kompetencje. Urzędnicy muszą wiedzieć, kiedy użycie AI ma sens, zespoły techniczne powinny umieć oceniać i zabezpieczać tworzone rozwiązania, a agencje potrzebują wspólnych platform zamiast wielu odizolowanych eksperymentów.

Projekty publiczne pokazują, dlaczego sama płynność odpowiedzi nie wystarczy

Projekt LangBuddy dobrze ilustruje potrzebę oceniania aplikacji AI pod kątem jej rzeczywistego celu. To głosowy chatbot, który pomaga uczniom ćwiczyć język ojczysty poprzez rozmowę.

W przypadku takiego narzędzia ocena nie może kończyć się na sprawdzeniu, czy chatbot odpowiada płynnie. GovTech analizuje między innymi bezpieczeństwo, ryzyko halucynacji oraz to, czy odpowiedzi są zgodne z założonymi zasadami pedagogicznymi.

Ta zasada ma zastosowanie w całej administracji publicznej. Agencje muszą sprawdzać, czy system wykonuje zadanie, do którego został zaprojektowany, respektuje ograniczenia i zachowuje się właściwie w realistycznych interakcjach — a nie tylko brzmi przekonująco.

Cyberbezpieczeństwo jest jednocześnie warunkiem i zastosowaniem AI

Ta sama filozofia widoczna jest w działaniach GovTech dotyczących cyberbezpieczeństwa. Agencja zajmuje się między innymi bezpiecznym projektowaniem systemów, testami typu red team, testami penetracyjnymi, programem zgłaszania podatności przez zewnętrznych badaczy oraz działaniami blue team, czyli wykrywaniem zagrożeń i reagowaniem na nie.

GovTech testuje także wspomagane przez AI testy penetracyjne i automatyczny triage w operacjach bezpieczeństwa. W tych próbach AI działa po obu stronach procesu: pomaga wykrywać słabe punkty, a jednocześnie wspiera obrońców w ustalaniu priorytetów dla incydentów.

Niektóre materiały wspominają o ponad 2 tys. rządowych systemów cyfrowych w kontekście zwiększania skali testów bezpieczeństwa. Dostępne źródła potwierdzają ogólny kierunek — red teaming, testy penetracyjne i wspomagane przez AI operacje bezpieczeństwa — ale nie dowodzą, że ciągłe testowanie AI działa już we wszystkich tych systemach.

Co ten program mówi o szerszej strategii Singapuru?

Opisane inicjatywy wspierają trzy powiązane cele:

1. Sprawniejsze usługi publiczne. Asystenci i agenci mogą zajmować się tworzeniem dokumentów, analizą, programowaniem i rutynowymi procesami, pozostawiając urzędnikom więcej czasu na złożone sprawy i bezpośrednią obsługę mieszkańców.
2. Silniejsze kompetencje technologiczne wewnątrz administracji. Wspólne platformy, narzędzia do oceny, warstwy bezpieczeństwa i szkolenia pomagają Singapurowi zachować wiedzę operacyjną, zamiast całkowicie uzależniać się od jednego dostawcy modelu lub komercyjnego produktu.
3. Ochrona zaufania publicznego i systemów państwowych. Rejestry, uprawnienia, możliwość audytu, testy bezpieczeństwa i cyberobrona tworzą nadzór nad AI w miarę uzyskiwania przez nią dostępu do rządowych procesów i danych.

Najważniejszy wniosek jest taki, że bezpieczne skalowanie AI to w równym stopniu problem architektury i zarządzania, co problem samego modelu. Singapur próbuje udostępnić sztuczną inteligencję na szeroką skalę, jednocześnie zapewniając instytucjom odpowiedzialnym za usługi publiczne widoczność właścicieli, uprawnień, testów i aktywności agentów.