Josephine Teo: sztuczna inteligencja potrzebuje zabezpieczeń na wzór lotnictwa

Wsiadając do samolotu, nie musimy osobiście sprawdzać każdej części maszyny. Polegamy na całym systemie: standardach, kontrolach i odpowiednio przygotowanych ludziach. Josephine Teo, singapurska minister rozwoju cyfrowego i informacji, uważa, że wraz z rosnącymi możliwościami i popularnością sztucznej inteligencji podobnie trzeba będzie budować zaufanie do AI. Wypowiedź z 17 września 2026 r. wyznacza kierunek działań, a nie oznacza, że gotowy „lotniczy” system bezpieczeństwa AI już istnieje. 31924

Nie wystarczy zaufać twórcy modelu

Sednem porównania jest odpowiedzialność rozłożona na wiele poziomów. W lotnictwie bezpieczeństwo nie zależy wyłącznie od producenta samolotu. Teo zestawia jego rolę z rolą twórcy modelu AI, ale wskazuje, że potrzebne są też inne zabezpieczenia. W praktyce oznacza to testowanie systemów, odpowiedzialne wdrażanie, przygotowanie ludzi i standardy, które wzajemnie się uzupełniają. 1924

Dlaczego to ważne dla użytkownika? Teo podała przykład decyzji kredytowych wspomaganych przez AI: klient powinien mieć podstawy, by ufać, że system nie działa na jego niekorzyść. Minister mówiła również o ryzyku stronniczości i utraty nadzoru człowieka. Zaktualizowane singapurskie ramy testowania AI obejmują między innymi możliwość ujawnienia danych wrażliwych, generowania nieprawdziwych odpowiedzi, zwanych halucynacjami, oraz szkodliwych treści. Relacje z jej wrześniowych wypowiedzi wymieniają ponadto obawy związane z cyberatakami i biologicznym nadużyciem AI. To kategorie ryzyka, nie lista potwierdzonych incydentów, które miałyby stać za jej porównaniem do lotnictwa. 25262739

Teo omawiała też szkodliwe obrazy wygenerowane przez AI oraz obowiązek ich usuwania przez określone usługi po otrzymaniu zgłoszenia. Jest to przykład problemu poruszanego w szerszej dyskusji o bezpieczeństwie, ale dostępne źródła nie wskazują, by konkretny niedawny incydent skłonił ją do użycia lotniczej analogii. 13

Co Singapur robi już teraz?

Jednym z narzędzi jest AI Verify — zestaw ram i narzędzi wspierających odpowiedzialne testowanie oraz przejrzystość. Teo zapowiedziała również program akredytacji niezależnych testerów AI. Ma on pomóc organizacjom wdrażającym takie systemy ocenić, komu powierzyć ich sprawdzenie; nie należy mylić zapowiedzi programu z twierdzeniem, że każdy system AI podlega już obowiązkowej, zewnętrznej kontroli. 827

Równolegle pilotaż Global AI Assurance badał sposoby testowania niezawodności zastosowań generatywnej AI. Wnioski posłużyły singapurskiemu urzędowi ds. rozwoju mediów cyfrowych IMDA do przygotowania zestawu wstępnych metod testowych. Powstały też wytyczne dla agentowej AI, czyli systemów zdolnych działać bardziej samodzielnie; nacisk położono w nich na zarządzanie ryzykiem i zachowanie nadzoru człowieka. 299

Dlaczego to wciąż praca w toku?

Usługi AI działają ponad granicami, dlatego Singapur zabiega o metody oceny oparte na dowodach i możliwe do stosowania w różnych systemach regulacyjnych. Teo zaznacza, że międzynarodowo uznane zasady będą ważne, lecz ich wypracowanie zajmie czas. Porównanie z lotnictwem jest więc ambicją dotyczącą poziomu zaufania i zabezpieczeń, nie potwierdzeniem, że dzisiejsze testy i wytyczne tworzą już równie dojrzały system bezpieczeństwa. 6730