Proč chce Singapur u bezpečnosti AI přemýšlet jako v letectví

Před nástupem do letadla cestující osobně nekontroluje motory ani práci řízení letového provozu. Spoléhá na to, že funguje celý řetězec bezpečnostních opatření. Právě takovou důvěru bude podle singapurské ministryně pro digitální rozvoj a informace Josephine Teo potřebovat i umělá inteligence, pokud se na ni lidé mají pravidelně spoléhat. V příspěvku na LinkedIn ze 17. září uvedla, že AI by časem mohla potřebovat bezpečnostní systém srovnatelný s civilním letectvím. Netvrdila tím, že takový systém už existuje. 23

Co má AI společného s letectvím

Bezpečný let nestojí pouze na konstrukci letadla. Záleží také na údržbě, řízení vzdušného prostoru a letišť, výcviku personálu i důsledném uplatňování pravidel při každodenním provozu. Teo těmito příklady ukazuje, proč důvěru nevytvoří samotné ujištění výrobce, že jeho technologie je bezpečná. 79

Nejde o návrh přepsat letecké předpisy pro AI. Přirovnání spíše otevírá otázky pro vývojáře, organizace, které systémy nasazují, i ty, kdo je posuzují: Jak se AI testuje před použitím? Kdo sleduje její bezpečnost po změnách? A jaké pokyny potřebují lidé, kteří s ní pracují? Teo označila přístup letectví za vícevrstvý a připomněla, že pro bezpečnost AI zatím neexistuje hotový návod. 5

Singapur nechce čekat na hotová pravidla

Podle Teo je třeba budovat pojistky souběžně s rozšiřováním AI, i když výzkum a testování stále pokračují. Mezi již existující singapurské iniciativy patří AI Verify, které podporuje odpovědné testování a transparentnost, a Singapore AI Safety Institute, instituce zaměřená na bezpečnost AI. 1222

Ministryně také popsala program akreditace nezávislých testerů. Organizacím nasazujícím AI má pomoci posoudit, komu mohou při ověřování svých systémů důvěřovat. Jde o krok k věrohodnějšímu testování, nikoli o důkaz, že jsou rizika AI vyřešena. 22

Protože AI i její rizika překračují hranice států, Singapur hostil mezinárodní vědecké setkání o bezpečnosti AI, podílel se na formulování Singapurského konsenzu o prioritách globálního bezpečnostního výzkumu a zapojil se do společného testování. To pomáhá sdílet poznatky; nejde však o závazný mezinárodní dohled po vzoru letectví. 181

A co výzvy ke zpomalení vývoje?

Debata probíhá na pozadí varování před ztrátou lidské kontroly nad AI, kybernetickými útoky či bioterorismem. Šéf společnosti Anthropic Dario Amodei 12. září vyzval ke zpomalení tempa, jímž rostou schopnosti nejpokročilejších modelů, aby s nimi bezpečnostní práce a nezávislé ověřování stačily držet krok. Jeho obava, že by budoucí AI agenti mohli způsobit rozsáhlé narušení internetu, je předpověď, nikoli potvrzený vývoj. 131011

Teo klade důraz na posilování bezpečnosti při rostoucím využívání AI; Amodei žádá také více času před dalším posunem schopností nejvyspělejších modelů. Společná otázka zní, zda bezpečnostní opatření dokážou držet krok s technologií, které mají lidé důvěřovat. 1311