Singapurský Úřad pro informační a mediální rozvoj (IMDA) oznámil 14. října 2026 na akci AI Assurance Exchange: The Agentic Edition tři iniciativy pro bezpečnost a odolnost AI. Reagují na rozvoj takzvané agentní AI — systémů, které mohou používat nástroje, přistupovat k datům a provádět úkoly, nejen generovat text.
4
11
Tři iniciativy v kostce
| Iniciativa |
Zaměření |
| Starter Kit for Testing Agentic Systems for Safety and Reliability |
Praktický postup pro testování bezpečnosti a spolehlivosti AI agentů. 4 42 |
| AI Tester Accreditation Programme |
Akreditace externích poskytovatelů testování AI; první skupinu tvoří pět firem. 30 35 |
| Frontier AI Resilience and Security Taskforce (FAIRS) |
Spolupráce na posílení obrany proti kybernetickým hrozbám spojeným s AI. 11 32 |
1. Jak testovat AI agenty
Testovací Starter Kit má organizacím pomoci ověřit nejen konečný výsledek, ale i to, jak se k němu agent dostal. Jeho čtyři kroky jsou: určit rizika, navrhnout realistické testy, vyhodnotit výsledky a provozní záznamy a po nasazení systém dál sledovat a opakovaně testovat.
1
42
43
Takový postup může týmům pomoci prověřit chování agenta v průběhu celého úkolu. IMDA návod představuje jako praktický výchozí bod pro posuzování bezpečnosti a spolehlivosti AI aplikací.
4
5
2. Pět akreditovaných testerů
Program AI Tester Accreditation Programme provozuje nadace AI Verify Foundation. Akredituje externí poskytovatele, kteří testují AI systémy; v první skupině je pět firem: AIDX Tech, Knovel Engineering, PwC Singapore, Resaro a Vulcan.
30
35
Podle dostupných informací se při hodnocení posuzují technické schopnosti, dosavadní výsledky, schopnost službu poskytovat a finanční udržitelnost. Organizace tak mají k dispozici seznam uznaných poskytovatelů, které mohou zvážit při hledání nezávislé testovací podpory.
30
3. Pracovní skupina pro kybernetickou odolnost
Pracovní skupina Frontier AI Resilience and Security Taskforce (FAIRS) se zaměřuje na posílení obrany proti kybernetickým hrozbám využívajícím AI. Podle zpráv o jejím vzniku sdružuje více než 20 odborníků a zabývá se také obranou napříč jednotlivými sektory.
11
32
FAIRS doplňuje zbylé dvě iniciativy: zatímco testovací návod se zaměřuje na prověřování konkrétních AI systémů, pracovní skupina řeší širší výzvu kybernetické odolnosti.
11
32
Co z toho plyne pro organizace
Singapurský balíček se věnuje třem různým potřebám: opakovatelnému testování chování agentů, možnosti obrátit se na akreditované externí testery a koordinovanému posilování obrany proti kybernetickým hrozbám spojeným s AI. Neznamená to, že organizace mohou přestat posuzovat vlastní systémy a rizika. Jde o společný soubor vodítek, uznaných poskytovatelů a širšího úsilí o odolnost.
4
11
30