Как Сингапур масштабирует ИИ в госуправлении, не отдавая агентам полный контроль

Такой подход важен потому, что ИИ-агент — это не просто инструмент для генерации текста. В зависимости от выданных разрешений и подключённых систем он может принимать решения, вызывать внешние инструменты и выполнять задачи с машинной скоростью. Поэтому реестр становится не каталогом программ, а механизмом инвентаризации и ответственности за «цифровых работников».

AI Assistant Desk задуман как защищённая среда цифровых помощников для госслужащих. Среди предполагаемых сценариев — подготовка отчётов, управление расписанием, программирование, исследовательская работа и другие рутинные операции.

Технические ограничения важнее обещаний самой модели

Модель GovTech предполагает, что безопасность будет обеспечиваться не только встроенными фильтрами конкретной ИИ-модели, но и окружающей её системой. Среди заявленных мер:

• настраиваемые правила для разных ведомств и сценариев;
• список одобренных ИИ-инструментов;
• запрет отдельных операций, например удаления файлов или отправки внешних электронных писем;
• ограничение числа и круга получателей, чтобы снизить риск неконтролируемой рассылки и спама;
• автоматическая проверка запросов и ответов на оскорбительные формулировки и другие нарушения базовых требований.

В основе этой логики лежит принцип минимальных привилегий: агент должен получать только те права и доступ, которые необходимы для конкретной задачи. Это особенно важно, когда государственные ведомства используют несколько моделей одновременно или подключают агентов к чувствительным информационным системам.

Защитный слой должен сохраняться при смене моделей

Отдельный уровень управления обеспечивает AI Guardian — платформа GovTech для тестирования и контроля ИИ-приложений. В неё входят два компонента с разными задачами: Litmus проверяет риски безопасности и надёжности до запуска с помощью атакующего тестирования, а Sentinel после запуска выполняет модерацию контента и фильтрацию ответов в реальном времени.

Разделение этих функций и самой ИИ-модели снижает зависимость от одного поставщика. GovTech также описывает архитектуру Assistant Desk как систему, в которой защитные меры должны оставаться действующими даже при добавлении или замене сторонних ИИ-инструментов.

Это принципиальное различие: модель может меняться, но требования правительства к защите данных, разрешённым действиям, мониторингу и безопасности ответов должны оставаться стабильными. В ответственном подходе GovTech ключевыми требованиями названы безопасность, устойчивость, защищённость и конфиденциальность, объяснимость и прозрачность.

Внедрение сопровождается обучением сотрудников

Программа Сингапура не ограничивается автономными агентами. Уже существующий помощник Pair поддерживает подготовку текстов, поиск и анализ информации, резюмирование и другие задачи на выданных государством устройствах. Система одобрена для работы с чувствительными государственными данными, с которыми коммерческие чат-боты использовать нельзя.

GovTech также развивает ИИ-инструменты для программной инженерии и low-code-подходы, позволяющие техническим специалистам и госслужащим быстрее создавать прототипы и автоматизировать рабочие процессы. В более ранних материалах ведомство описывало планы по внедрению ИИ-помощников для написания кода, автоматизации разработки и переносу прототипов в защищённые среды.

Ещё один элемент инфраструктуры — обучение. GovTech предоставляет госслужащим образовательные материалы по данным и ИИ, а общенациональные планы развития кадров предусматривают специальные программы для технологических специалистов, которые работают с автоматизацией программирования и агентными системами.

Практическая цель — сформировать внутреннюю компетенцию. Сотрудники должны понимать, когда ИИ уместен, инженерные команды — уметь проверять и защищать созданные решения, а ведомства — пользоваться общими платформами, а не собирать набор разрозненных экспериментов.

Государственные проекты показывают, зачем нужна оценка качества

Проект GovTech LangBuddy хорошо иллюстрирует необходимость проверять ИИ по реальному назначению. Это голосовой чат-бот, который помогает школьникам практиковать разговорную речь на родных языках через диалог.

Для такого продукта недостаточно убедиться, что бот отвечает бегло и естественно. В рамках оценки GovTech проверяет безопасность, риск галлюцинаций и соблюдение заданных педагогических правил.

Тот же принцип применим к государственным сервисам в целом: ведомствам нужно проверять, выполняет ли система поставленную задачу, соблюдает ли ограничения и корректно ли ведёт себя в реалистичных сценариях. Убедительный ответ сам по себе ещё не означает, что система работает правильно.

Кибербезопасность — одновременно основа и область применения ИИ

Та же философия проявляется в кибербезопасности GovTech. Агентство занимается безопасным проектированием государственных систем, проводит red-team-упражнения и тестирование на проникновение, использует программы коллективного поиска уязвимостей, а также развивает blue-team-функции для обнаружения и отражения атак.

Параллельно GovTech тестирует ИИ для усиления пентестинга и автоматизации первичной сортировки инцидентов в операционных центрах безопасности. Таким образом, ИИ применяется по обе стороны процесса: помогает находить слабые места и расставлять приоритеты при защите систем.

В отдельных публикациях упоминается более 2 000 государственных цифровых систем в контексте масштабирования проверок безопасности. Доступные материалы подтверждают общее направление — red-team-тестирование, пентестинг и ИИ-поддержку операций безопасности, — но не доказывают, что непрерывная проверка уже ведётся по каждой из этих систем.

Что это даёт стратегии Сингапура

Вместе эти инициативы поддерживают три связанные цели:

1. Повысить качество госуслуг. Помощники и агенты могут брать на себя подготовку документов, анализ, программирование и рутинные процессы, освобождая сотрудников для сложных и ориентированных на граждан задач.
2. Укрепить собственные технологические возможности. Общие платформы, инструменты оценки, защитные слои и обучение позволяют сохранять экспертизу внутри государства, а не зависеть полностью от одного поставщика моделей или коммерческого продукта.
3. Защитить доверие граждан и государственные системы. Реестры, разграничение прав, аудит, тестирование безопасности и киберзащита создают систему надзора по мере того, как ИИ получает доступ к государственным данным и рабочим процессам.

Главный вывод сингапурского эксперимента прост: безопасное масштабирование ИИ — это не только вопрос качества модели, но и вопрос архитектуры. Сингапур пытается сделать искусственный интеллект доступным для всего государственного аппарата, одновременно сохранив прозрачность владельцев, разрешений, проверок и рабочих действий агентов.