Bezpieczna AI jak bezpieczny lot? Singapur stawia na cały system zabezpieczeń

Gdy wsiadamy do samolotu, nie musimy osobiście sprawdzać każdej części maszyny. Ufamy, że działają także inne elementy systemu: przeglądy techniczne, zarządzanie ruchem, procedury na lotnisku i szkolenie personelu. Zdaniem Josephine Teo, singapurskiej minister rozwoju cyfrowego i informacji, podobnie powinno się budować zaufanie do sztucznej inteligencji. We wpisie na LinkedIn z 17 września wskazała, że AI może z czasem potrzebować rozwiązań bezpieczeństwa porównywalnych z tymi w lotnictwie cywilnym. Nie twierdziła jednak, że taki system już powstał. 2379

Nie jeden certyfikat, lecz wiele warstw ochrony

Lotnictwo jest dla Teo przykładem bezpieczeństwa, które zależy od współdziałania wielu podmiotów i konsekwentnego stosowania zasad — nie tylko od zapewnień producenta samolotu. W przypadku AI prowadzi to do praktycznych pytań: jak sprawdzać system przed wdrożeniem, kto ocenia go po zmianach i jak przygotować osoby, które z niego korzystają? To kierunek myślenia, a nie propozycja skopiowania przepisów lotniczych. Teo określiła podejście lotnictwa jako wielowarstwowe i zaznaczyła, że Singapur musi szybko się uczyć, bo nie ma gotowej instrukcji zapewniania bezpieczeństwa AI. 795

Co Singapur robi już teraz

Minister opowiada się za rozwijaniem zabezpieczeń równolegle z upowszechnianiem AI, zamiast czekać na kompletny zestaw reguł. Wśród singapurskich inicjatyw wymieniane są AI Verify, służące promowaniu odpowiedzialnego testowania i przejrzystości, oraz Singapore AI Safety Institute. Teo mówiła również o programie akredytacji niezależnych podmiotów testujących AI. Ma on pomóc organizacjom wdrażającym systemy ocenić, czy mogą zaufać osobom przeprowadzającym testy. To kroki w stronę bardziej wiarygodnej oceny, nie dowód, że wszystkie zagrożenia zostały opanowane. 1222

Singapur uczestniczy także w międzynarodowych pracach nad oceną bezpieczeństwa: gościł International Scientific Exchange on AI Safety, współtworzył Singapore Consensus on Global AI Safety Research Priorities i bierze udział we wspólnych testach. Są to formy współpracy badawczej, a nie wiążący, światowy odpowiednik nadzoru lotniczego. 181

A co z postulatami spowolnienia AI?

Teo kładzie nacisk na bezpieczne wdrażanie technologii w miarę wzrostu jej zastosowań. W tle toczy się ostrzejsza debata o ryzykach coraz bardziej zaawansowanej AI — od utraty kontroli przez człowieka po cyberataki i bioterroryzm. 12 września szef Anthropic Dario Amodei wezwał do spowolnienia wzrostu możliwości najbardziej zaawansowanych modeli, aby prace nad bezpieczeństwem i niezależna weryfikacja mogły za nimi nadążyć. Jego ostrzeżenie przed możliwymi zakłóceniami w skali internetu było prognozą, nie opisem zdarzenia, które już nastąpiło. 131011

Stanowiska różnią się więc akcentami: Teo mówi przede wszystkim o budowaniu zabezpieczeń podczas wdrażania AI, Amodei chce również zyskać czas przed kolejnymi skokami możliwości modeli. Wspólne pytanie brzmi: czy metody sprawdzania bezpieczeństwa nadążą za technologią, której użytkownicy mają zaufać? 1311