Proč chce Singapur pro AI bezpečnost po vzoru letectví

Když nastoupíme do letadla, nespoléháme jen na to, že jeho výrobce odvedl dobrou práci. Důvěra stojí také na pravidlech, údržbě, vyškolených lidech a dalších kontrolách. Singapurská ministryně pro digitální rozvoj a informace Josephine Teo tvrdí, že podobnou důvěru bude potřebovat i umělá inteligence, má-li se na ni společnost stále více spoléhat. Ve vyjádření ze 17. září 2026 načrtla směr, kterým by se bezpečnost AI mohla ubírat — nikoli systém, který už je hotový. 31924

Proč nestačí prověřit jen samotný model

Teo přirovnává tvůrce AI modelů k výrobcům letadel: jsou důležití, ale bezpečnost nemůže stát pouze na nich. Z jejího srovnání plyne potřeba více na sebe navazujících pojistek — od testování přes odpovědné nasazení až po odborně připravené lidi a společné standardy. 1924

Záleží na tom zejména tam, kde výstup AI ovlivňuje rozhodnutí o člověku. Teo například upozornila na využití AI při posuzování žádostí o úvěr a na otázku, jak si může klient ověřit, že vůči němu systém není zaujatý. Mluvila také o riziku ztráty lidského dohledu. Singapurský testovací rámec se mezitím rozšířil o hrozby, jako je únik citlivých údajů, zavádějící či smyšlené odpovědi a škodlivé výstupy. 252627

Zprávy o jejím zářijovém vyjádření zmiňují také kybernetické útoky a možné zneužití AI k biologickým hrozbám. Jde o rizika, před nimiž chce varovat, ne o doložené incidenty, které by samy o sobě vysvětlovaly její přirovnání k letectví. V širší debatě o bezpečnosti Teo hovořila rovněž o škodlivých obrázcích vytvořených AI a o povinnosti služeb odstranit takový obsah po upozornění. Dostupné podklady ale nespojují její letecké přirovnání s jedním konkrétním nedávným případem. 3913

Co už Singapur dělá

Nástroj a rámec AI Verify mají organizacím pomoci AI odpovědně testovat a zpřehlednit způsob jejího hodnocení. Teo také oznámila program akreditace nezávislých hodnotitelů: firmy, které AI nasazují, by tak měly snáze poznat, komu její prověření svěřit. Oznámení programu však není totéž co existence plně zavedeného systému akreditace. 827

Technická část se dál vyvíjí. Mezinárodní pilotní projekt Global AI Assurance zkoumal, jak testovat spolehlivost aplikací generativní AI; jeho poznatky se promítly do úvodní sady testovacích metod singapurského úřadu IMDA. Singapur vydal také rámec pro správu agentní AI — systémů, které mohou jednat samostatněji — se zaměřením na řízení rizik a zachování lidského dohledu. 299

Proč to ještě není „bezpečnost AI jako v letectví“

AI produkty překračují hranice, a proto Singapur prosazuje mezinárodní spolupráci na hodnoticích metodách podložených důkazy, které budou použitelné v různých regulačních prostředích. Podle Teo budou mezinárodně uznávaná pravidla důležitá, jejich vznik však potrvá. Letecká analogie tak vyjadřuje ambici budovat důvěru soustavnými kontrolami, nikoli tvrzení, že dnešní testy a doporučení už tvoří ustálený a úplný bezpečnostní režim. 6730