Программа аккредитации тестировщиков ИИ в Сингапуре (AI TAP)

О запуске программы объявила министр цифрового развития и информации Сингапура Жозефин Тео на международном мероприятии по безопасности ИИ в мае 2026 года.

По текущим планам:

• запуск программы ожидается во второй половине 2026 года
• приём заявок на аккредитацию может открыться примерно в третьем квартале 2026 года

Зачем Сингапур создаёт такую систему

Сегодня многие компании нанимают сторонние фирмы, чтобы те проверяли их ИИ‑системы — например, пытались обойти ограничения моделей или выявить уязвимости.

Но рынок таких услуг пока не стандартизирован. Качество тестирования может сильно отличаться.

AI TAP должен решить эту проблему, создав формальный стандарт аккредитации для компаний, которые предлагают услуги по тестированию ИИ.

Это также часть более широкой стратегии Сингапура по созданию «доверенной экосистемы искусственного интеллекта», где инновации сочетаются с безопасностью и прозрачностью.

К этой экосистеме уже относятся несколько инициатив:

• AI Verify — фреймворк для проверки того, соответствует ли ИИ международным принципам управления и ответственности.
• Global AI Assurance Pilot и Sandbox — проекты, которые соединяют компании‑разработчиков ИИ с специализированными тестировщиками для разработки методов проверки.

Как будут аккредитовывать компании‑тестировщики

Организации, подающие заявку на аккредитацию AI TAP, должны пройти двухуровневую проверку.

1. Техническая оценка

Компании должны доказать, что их методы тестирования соответствуют признанным рекомендациям по проверке AI‑систем.

Например, будет оцениваться способность проводить:

• тестирование безопасности приложений на базе больших языковых моделей (LLM)
• проверку надежности и устойчивости системы
• поиск уязвимостей и потенциальных эксплойтов

Также необходимо продемонстрировать структурированную методологию тестирования и использование подходящих наборов данных для проверки моделей.

2. Оценка самой организации

Помимо технических навыков, анализируется и сама компания.

Проверка может включать:

• деловую репутацию и историю работы
• квалификацию сотрудников
• операционные возможности
• финансовую устойчивость
• соответствие заявленных услуг реальным компетенциям

Такая двухуровневая схема должна гарантировать, что аккредитованные тестировщики не только умеют проводить сложные технические проверки, но и являются надежными организациями.

Какие риски проверяют тестировщики ИИ

Официального универсального списка тестов AI TAP пока не опубликовано. Но в существующих проектах по обеспечению надежности ИИ в Сингапуре уже выделяются типичные категории рисков.

К ним относятся:

• уязвимости безопасности, включая попытки обойти защитные ограничения модели
• генерация опасного или недопустимого контента
• утечки данных, особенно в системах RAG, подключенных к внутренним базам знаний
• многоязычные проблемы безопасности, когда защита работает на одном языке, но не на другом
• ошибки точности и «галлюцинации» моделей

Например, в некоторых тестах было обнаружено, что защитные механизмы, работающие на английском, могут не срабатывать на других языках.

Также системы, использующие RAG‑архитектуру (retrieval‑augmented generation), иногда повышают точность ответов, но одновременно увеличивают риск утечки конфиденциальной информации.

Какие методы используют при тестировании ИИ

Компании, занимающиеся AI‑assurance, обычно комбинируют автоматические тесты и экспертную оценку.

Среди распространённых методов:

• adversarial prompting и red‑teaming — попытки «взломать» модель или обойти её ограничения
• синтетические тестовые наборы данных, создающие редкие и сложные сценарии
• бенчмаркинг точности, например проверка классификации или поиска информации
• human‑in‑the‑loop проверки, когда эксперты оценивают ответы системы
• LLM‑as‑judge, когда модели ИИ помогают масштабировать анализ результатов

Такие подходы позволяют оценить не только производительность модели, но и устойчивость её защитных механизмов.

Почему программа может повлиять на мировой рынок AI‑безопасности

Одной из главных проблем управления искусственным интеллектом является вопрос доверия: кто проверяет проверяющих.

AI TAP пытается решить именно эту проблему — аккредитуя самих тестировщиков.

Если программа окажется успешной, её последствия могут включать:

• большее доверие компаний к сторонним аудиторам ИИ
• единые ожидания по качеству тестирования
• более сопоставимые результаты проверок между странами и индустриями
• развитие нового рынка услуг по аудиту безопасности ИИ

Поскольку AI TAP позиционируется как первая подобная программа в Азии, она может стать ориентиром для других стран, создающих собственные системы проверки и сертификации ИИ.

Что пока остаётся неизвестным

Несмотря на объявление программы, некоторые детали ещё не раскрыты:

• точная система оценки при аккредитации
• конкретные тестовые протоколы
• возможные отраслевые стандарты для медицины, финансов или других сфер

Вероятно, эти детали станут яснее после открытия приёма заявок и аккредитации первых компаний.

Главное

Тестирование безопасности ИИ становится важным этапом перед внедрением новых систем. Правительствам и компаниям нужны способы убедиться, что алгоритмы работают корректно и не создают новых рисков.

Подход Сингапура делает ставку на сертификацию независимых тестировщиков, формируя слой доверенных экспертов, которые могут проверять технологии перед их внедрением.

Если модель окажется эффективной, подобные программы могут стать ключевым элементом будущей глобальной системы управления искусственным интеллектом.