ШІ для 150 000 держслужбовців: як Сінгапур будує систему нагляду за AI-агентами

Сінгапур робить ставку не просто на запуск нового чатбота, а на спільну інфраструктуру для керованого використання штучного інтелекту в державному секторі. GovTech — урядове агентство, що координує цифрову трансформацію державних служб — розширює доступ до ШІ, одночасно встановлюючи контроль над агентами, інструментами та даними, до яких вони можуть отримувати доступ. План охоплює близько 150 000 держслужбовців.

Ініціатива ще розробляється та тестується за участю окремих працівників. Ширше розгортання заплановане на кінець 2026 року. Її головна особливість — не кількість доступних моделей, а створення спільного операційного рівня, який робить використання ШІ в уряді видимим, перевірюваним і підзвітним.

Реєстр має перетворити AI-агентів на підзвітних «цифрових працівників»

Реєстр у складі AI Assistant Desk має фіксувати, хто відповідає за конкретного AI-агента, які завдання йому дозволені та як він використовується в роботі. Це дає державним установам змогу пов’язати автоматизовану систему з відповідальним власником і перевіряти її активність упродовж часу.

Такий підхід важливий тому, що агент може не лише створювати текст. Залежно від дозволів та інтеграцій він здатен ухвалювати рішення, викликати зовнішні інструменти або виконувати завдання з машинною швидкістю. Тому реєстр — це не просто каталог програмного забезпечення, а одночасно інвентаризація та механізм відповідальності за цифрових виконавців.

GovTech описує AI Assistant Desk як захищене середовище цифрових помічників для держслужбовців. Серед очікуваних сценаріїв — підготовка звітів, планування, програмування, дослідження та інші рутинні операції.

Технічні запобіжники визначатимуть межі дозволеного

Сінгапур намагається покладатися не лише на вбудовані обмеження окремої моделі ШІ. Безпека має забезпечуватися всією системою довкола неї. Серед заявлених або запропонованих елементів контролю:

• правила, які можна налаштовувати під різні відомства та сценарії;
• перелік схвалених або санкціонованих інструментів ШІ;
• заборона окремих дій, зокрема видалення файлів чи надсилання електронних листів за межі організації;
• обмеження кількості та переліку одержувачів, щоб зменшити ризик неконтрольованого розсилання або спаму;
• автоматичні перевірки запитів і відповідей на образливу лексику та інші проблеми «гігієни» контенту.

Це відповідає принципу мінімально необхідних привілеїв: агент має отримувати лише той доступ і набір дозволених дій, які потрібні для конкретного завдання. Така модель особливо важлива, коли державні установи використовують кілька моделей або підключають агентів до чутливих інформаційних систем.

Захисний шар має зберігатися навіть після заміни моделі

Окремий рівень управління ШІ забезпечує платформа GovTech AI Guardian. Два її компоненти відповідають за різні етапи життєвого циклу системи: Litmus до запуску оцінює ризики безпеки й захищеності за допомогою adversarial testing — перевірок, що імітують спроби обійти захист, — а Sentinel після запуску здійснює модерацію контенту в реальному часі та фільтрує відповіді.

Відокремлення цих функцій від самої моделі може зменшити залежність від одного постачальника. GovTech також заявляє, що архітектуру безпеки Assistant Desk розроблено так, щоб захист не зникав у разі додавання або заміни сторонніх ШІ-інструментів.

Це принципова відмінність: модель може змінюватися, але вимоги уряду до захисту даних, дозволених дій, моніторингу та безпечності відповідей мають залишатися стабільними. У відповідальному підході GovTech до ШІ ключовими вимогами названо безпеку, стійкість, захист даних і приватності, пояснюваність та прозорість.

Масштабування супроводжується навчанням працівників

Програма Сінгапуру не обмежується автономними агентами. Урядовий помічник Pair уже підтримує написання текстів, пошук інформації, підсумовування та аналіз на пристроях, виданих державним службовцям. Його дозволено використовувати і для роботи з чутливими державними даними, які не можна передавати комерційним чатботам.

GovTech також розвиває інструменти для ШІ-асистованої розробки програмного забезпечення та підходи з низьким рівнем кодування, щоб технічні команди й держслужбовці могли швидше створювати прототипи та автоматизувати робочі процеси. У попередніх матеріалах GovTech ішлося про плани запровадити ШІ-помічників для програмування, автоматизовану інженерію та інструменти, які допомагатимуть переносити прототипи в безпечніші середовища.

Ще один елемент інфраструктури — навчання. GovTech надає держслужбовцям освітні матеріали з даних і ШІ, а ширші плани Сінгапуру передбачають програми підвищення кваліфікації для технологічних фахівців, які працюють над автоматизацією написання коду та агентними системами.

Практична мета — сформувати внутрішню компетентність. Працівники мають розуміти, коли ШІ доречний, технічні команди — уміти оцінювати та захищати створені рішення, а державні установи — користуватися спільними платформами, а не накопичувати набір не пов’язаних між собою експериментів.

Державні проєкти показують, чому одного «переконливого» діалогу недостатньо

Робота GovTech над LangBuddy демонструє, що ШІ-застосунок потрібно оцінювати за його реальною метою. LangBuddy — голосовий чатбот, який допомагає учням практикувати розмовну мову мовою «материнської» або рідної для них культурної спільноти.

Для такого продукту недостатньо перевірити, чи звучать відповіді природно. Оцінювання GovTech враховує безпеку, ризик галюцинацій — вигаданих або фактично неправильних відповідей — і дотримання запланованих педагогічних правил.

Цей принцип поширюється на всі державні сервіси: установи мають перевіряти, чи виконує система поставлене завдання, чи дотримується обмежень і чи прийнятно поводиться в реалістичних взаємодіях. Самої здатності відповідати переконливо недостатньо.

Кібербезпека — і передумова, і сфера застосування ШІ

Та сама філософія проявляється в кібербезпеці GovTech. Агентство вказує на захищене проєктування систем, red teaming — перевірки, під час яких фахівці імітують дії зловмисників, — тестування на проникнення, програму пошуку вразливостей за участю зовнішніх дослідників, а також blue-team функції для виявлення та реагування на загрози.

GovTech також випробовує ШІ-асистоване тестування на проникнення та автоматизоване сортування інцидентів у центрах операцій безпеки. У такій моделі ШІ працює по обидва боки кіберзахисту: допомагає знаходити слабкі місця й водночас дає змогу захисникам швидше визначати пріоритетність інцидентів.

У деяких матеріалах згадується понад 2 000 державних цифрових систем у контексті масштабування перевірок безпеки. Доступні джерела підтверджують загальний напрям — red teaming, тестування на проникнення та ШІ-асистовані операції безпеки, — але не доводять, що безперервне тестування за допомогою ШІ вже працює на кожній із цих систем.

Що це означає для ширшої стратегії Сінгапуру

У сукупності ці ініціативи підтримують три пов’язані цілі:

1. Покращити державні послуги. Помічники та агенти можуть виконувати підготовку текстів, аналіз, програмування й рутинні операції, залишаючи працівникам більше часу для складних і безпосередньо орієнтованих на громадян завдань.
2. Посилити власну технологічну спроможність. Спільні платформи, інструменти оцінювання, рівні безпеки та навчання допомагають Сінгапуру зберігати експертизу всередині державного сектору, а не повністю залежати від одного постачальника моделі чи комерційного продукту.
3. Захистити довіру суспільства та національні системи. Реєстри, дозволи, журнали аудиту, тестування безпеки й кіберзахист створюють систему нагляду в міру того, як ШІ отримує доступ до державної роботи та даних.

Головний висновок простий: безпечне масштабування ШІ — це не лише питання якості моделі, а й питання архітектури. Сінгапур намагається зробити штучний інтелект доступним для великої частини державної служби, водночас залишаючи видимими власників, дозволи, результати тестування та активність систем для установ, відповідальних за державні послуги.