Сінгапур запускає першу в Азії програму акредитації тестувальників штучного інтелекту

Ініціативу вже називають першою в Азії програмою акредитації для організацій, що тестують AI, яка має стати еталоном для послуг із забезпечення якості та безпеки AI.

Хто запускає AI TAP і коли він почне діяти

AI TAP запускає AI Verify Foundation – некомерційна організація, створена для розвитку стандартів та інструментів тестування надійного AI. Фонд є дочірньою структурою сінгапурського Управління розвитку інфокомунікацій та медіа (IMDA).

Міністерка цифрового розвитку та інформації Сінгапуру Джозефін Тео оголосила про програму під час міжнародного заходу з безпеки AI у травні 2026 року.

Ключові деталі запуску:

• Організація-запускатор: AI Verify Foundation
• Очікуваний запуск: друга половина 2026 року
• Прийом заявок на акредитацію: очікується, що розпочнеться приблизно у третьому кварталі 2026 року

Чому Сінгапур створив AI TAP

Основна мета AI TAP – підвищити довіру до послуг з тестування безпеки AI.

Оскільки все більше організацій впроваджують AI, багато хто звертається до спеціалізованих фірм для вивчення моделей на предмет вразливостей – часто через «red-teaming» або спроби обійти захисні механізми. Однак якість і надійність таких тестувальників може дуже відрізнятися.

AI TAP вирішує цю проблему, створюючи формальний стандарт акредитації для компаній, що пропонують послуги тестування AI.

Програма також є частиною ширших зусиль Сінгапуру з побудови довіреної екосистеми AI, яка поєднує технологічні інновації з безпекою та підзвітністю.

Цю екосистему підтримують кілька пов'язаних ініціатив:

• Рамка тестування AI Verify, яка допомагає компаніям оцінити, чи відповідають їхні AI-системи міжнародно визнаним принципам управління.
• Глобальна пісочниця та пілотний проєкт з асесурансу AI (Global AI Assurance Pilot and Sandbox), які з'єднують компанії, що впроваджують AI, зі спеціалізованими тестувальниками для розробки практичних методів тестування.

Разом ці програми мають на меті встановити спільні норми для відповідального впровадження AI.

Як AI TAP сертифікуватиме компанії-тестувальники

Компанії, які подають заявку на акредитацію AI TAP, проходитимуть два основні етапи оцінювання.

Оцінка технічної компетентності

Тестувальні організації повинні продемонструвати, що їхні методи оцінки відповідають визнаним рекомендаціям для тестування AI-систем. Це включає доведення того, що їхні послуги узгоджуються з керівництвом у таких сферах:

• Безпека застосунків на основі великих мовних моделей (LLM)
• Тестування надійності та стійкості
• Виявлення та тестування вразливостей

Заявники також повинні продемонструвати структуровані методології тестування та наявність відповідних наборів даних для оцінки AI-систем.

Організаційна та операційна оцінка

Окрім технічної експертизи, AI TAP оцінюватиме саму компанію. Розгляд може включати такі фактори:

• Ділова репутація та досвід роботи
• Операційна спроможність та кваліфікація персоналу
• Фінансова стабільність
• Відповідність заявлених послуг фактичним можливостям організації

Така дворівнева перевірка покликана гарантувати, що акредитовані тестувальники є одночасно технічно компетентними та операційно надійними.

Які ризики AI мають досліджувати тестувальники

Хоча AI TAP не опублікував універсального переліку тестів, існуючі роботи з асесурансу AI в Сінгапурі визначають кілька типових ризиків:

• Вразливості безпеки та експлойти, включаючи спроби обійти захисні механізми або отримати обмежену інформацію
• Збої безпеки контенту, такі як генерування шкідливих або неприйнятних результатів
• Ризики витоку даних, особливо в системах доповненої генерації (RAG), підключених до внутрішніх баз знань
• Багатомовні прогалини в безпеці, коли захисні механізми, що працюють в одній мові, можуть не спрацьовувати в іншій
• Проблеми з точністю та стійкістю, включаючи галюцинації або непослідовні відповіді

Тестування в рамках сінгапурських ініціатив з асесурансу AI показали, що захисні механізми можуть поводитися по-різному в різних мовах, а деякі архітектури систем можуть збільшувати ризик витоку чутливої інформації.

Методи тестування в асесурансі AI

Організації з тестування AI зазвичай поєднують автоматизоване оцінювання з аналізом людини. Приклади методів, що використовуються в сінгапурських AI-проєктах:

• Аверсивний промптінг та red-teaming для пошуку вразливостей типу «джейлбрейк»
• Генерація синтетичних наборів даних для створення крайових випадків та рідкісних сценаріїв збоїв
• Бенчмаркінг точності, включаючи точність класифікації та точність пошуку
• Ревізія з участю людини (Human-in-the-loop), де експерти оцінюють відповіді системи
• Підходи LLM-як-суддя, де AI-моделі допомагають масштабувати оцінку результатів

Ці підходи дозволяють тестувальникам оцінювати як продуктивність AI-систем, так і стійкість їхніх захисних механізмів.

Як AI TAP може вплинути на глобальну екосистему безпеки AI

Акредитація самих тестувальників вирішує зростаючу проблему в управлінні AI: забезпечення того, щоб оцінки безпеки AI були надійними та послідовними.

Потенційні наслідки програми:

• Більша впевненість організацій при наймі зовнішніх фірм для оцінки AI-систем
• Чіткіші очікування щодо того, що таке компетентне тестування безпеки AI
• Краща порівнянність результатів тестування в різних галузях та юрисдикціях
• Міцніша співпраця між розробниками AI та спеціалізованими аудиторами безпеки

Оскільки AI TAP позиціонується як перша акредитаційна схема такого роду в Азії, вона може вплинути на те, як інші країни структуруватимуть власні системи забезпечення якості AI.

Які деталі ще невідомі

Хоча цілі та структура AI TAP загальновідомі, деякі операційні аспекти ще не повністю розкриті, зокрема:

• Детальна модель оцінювання для акредитації
• Конкретні протоколи тестування, необхідні для сертифікації
• Чи будуть застосовуватися галузеві стандарти для таких секторів, як охорона здоров'я чи фінанси

Ці деталі, ймовірно, стануть відомішими після відкриття прийому заявок та проходження акредитації першою хвилею тестувальних фірм.

Загальна картина

Тестування безпеки AI стає невід'ємною частиною впровадження сучасних AI-систем. Уряди та компанії все частіше потребують способів перевірки того, чи є AI-моделі безпечними, надійними та такими, що відповідають принципам управління.

Підхід Сінгапуру зосереджений на сертифікації самих тестувальників, створюючи довірений прошарок незалежних оцінювачів, на які організації можуть покладатися при оцінці AI-технологій.

У разі успіху такі програми, як AI TAP, можуть стати ключовим будівельним блоком глобального ландшафту управління AI.