Globalne zasady bezpieczeństwa AI: kto powinien je sprawdzać i egzekwować?

Globalnych zasad bezpieczeństwa sztucznej inteligencji nie da się oprzeć wyłącznie na zapewnieniach firm, że ich systemy są bezpieczne. Zaufanie wymaga dowodów, które mogą sprawdzić niezależni eksperci, oraz instytucji zdolnych nakazać poprawki lub ograniczyć wdrożenie. Singapurska minister rozwoju cyfrowego i informacji Josephine Teo przywołuje tu przykład lotnictwa: powszechne korzystanie z niego stało się możliwe dzięki wielu warstwom zabezpieczeń. Jej zdaniem podobnego podejścia będzie potrzebować AI w miarę upowszechniania się technologii. 36

Lekcja z lotnictwa: wspólne reguły powstają etapami

Międzynarodowe zasady lotnictwa nie pojawiły się od razu w gotowej postaci. Najpierw działały przepisy krajowe i umowy dwustronne. Konwencja paryska z 1919 r. wprowadziła wczesne reguły międzynarodowe, konwencja chicagowska z 1944 r. stworzyła nowy fundament współpracy, a w 1947 r. rozpoczęła działalność Organizacja Międzynarodowego Lotnictwa Cywilnego (ICAO). 313935 Wniosek dla AI nie brzmi: skopiować przepisy lotnicze. Chodzi raczej o rozpoczęcie od uzgodnień, które da się stosować, i rozwijanie ich wraz ze zdobywanym doświadczeniem.

W takim modelu organ międzynarodowy mógłby opracowywać minimalne standardy, akredytować podmioty oceniające systemy i porównywać dane o incydentach. Organy krajowe zachowałyby prawo do kontroli, nakazywania zmian, ograniczania wdrożeń i nakładania kar. Międzynarodowy certyfikat nie zastępowałby więc nadzoru tam, gdzie system jest używany.

Co właściwie należałoby weryfikować?

Wynik publicznego testu lub znak jakości to za mało. Uprawniony, niezależny podmiot oceniający potrzebowałby bezpiecznego dostępu do odpowiedniej wersji modelu, sposobu jego wdrożenia, dokumentacji oraz zapisów istotnych awarii. Metody i ustalenia powinny być opisane tak, by inny wykwalifikowany zespół mógł je zakwestionować. Jednocześnie zasady dostępu musiałyby chronić dane osobowe, tajemnice przedsiębiorstw i informacje wrażliwe dla bezpieczeństwa.

Deweloper systemu wysokiego ryzyka mógłby przedstawiać uzasadnienie bezpieczeństwa: do czego system jest przeznaczony, jak go testowano, które zabezpieczenia wykazano, jakie ryzyka pozostały i co stanie się w razie incydentu. Gdy dowody są niewystarczające, organ nadzoru powinien móc zażądać zmian albo ograniczyć wdrożenie. Celem jest sprawdzalna zgodność z określonymi wymaganiami, nie obietnica, że szkoda nigdy nie wystąpi.

Ocena nie może kończyć się w dniu uruchomienia. Potrzebne byłyby monitorowanie działania, ponowna ocena po istotnych zmianach oraz możliwość wycofania nowej wersji lub zakończenia korzystania z systemu. Ewentualna zgoda powinna dotyczyć konkretnej wersji i zastosowania, a nie wszystkich przyszłych sposobów użycia.

Znaczenie ma również finansowanie kontroli. Duże firmy mogłyby wpłacać środki do wspólnego funduszu lub funduszu zarządzanego przez regulatora, zamiast samodzielnie wybierać i bezpośrednio opłacać podmiot wydający ocenę. Niezależne badanie poważnych awarii i sytuacji bliskich awarii powinno służyć zapobieganiu kolejnym zdarzeniom. Ochrona osób zgłaszających problemy nie może jednak oznaczać przyzwolenia na ich ukrywanie.

Singapur może pomóc, ale zaufania nie da się ogłosić

Teo opowiada się za rozwijaniem zabezpieczeń równolegle z wdrażaniem AI. W doniesieniach wskazuje się singapurskie narzędzie AI Verify i tamtejszy Instytut Bezpieczeństwa AI jako podstawy prac nad testowaniem i oceną systemów. 13 Singapur mógłby organizować wspólne oceny lub poufne wymiany wiedzy technicznej w ramach szerszej sieci akredytowanych laboratoriów.

Samo ulokowanie tam ośrodka nie zagwarantowałoby jednak zaufania Stanów Zjednoczonych i Chin. Wymagałoby to przejrzystego zarządzania, bezpiecznych zasad dostępu, niezależnej procedury odwoławczej i rzeczywistego udziału obu państw. Sieć ośrodków w różnych krajach ograniczałaby też zależność od jednego miejsca.

Zacząć od wspólnych zagrożeń, nie od zgody na hamowanie AI

Spór o tempo rozwoju technologii jest wyraźny. Według Reutersa Dario Amodei, Sam Altman i Elon Musk wzywali do skoordynowanego spowolnienia prac nad AI. Mark Zuckerberg opowiadał się za zabezpieczeniami kształtowanymi przez rynek, a Jensen Huang odrzucał potrzebę nowych regulacji. 4748 Chiny odrzuciły wezwania do spowolnienia rozwoju AI. Z kolei prezydent USA Donald Trump powiedział, że nie spodziewa się postępów w sprawie zabezpieczeń AI podczas szczytu z Xi Jinpingiem 24 września; relacje ze spotkania również wskazywały na niewielkie oczekiwania co do przełomu. 585049

Nie trzeba rozstrzygać tego sporu, by uzgodnić sposób postępowania wobec zagrożeń, których żadna ze stron nie chce. Z doniesień o propozycjach amerykańskich i chińskich ekspertów ds. bezpieczeństwa wynika, że wskazują oni na ograniczenia dotyczące systemów nuklearnych, utrzymanie kontroli człowieka nad cyberatakami o poważnych skutkach oraz bezpośredni kanał kontaktu w razie incydentów z udziałem autonomicznej AI. 20 Takie kwestie mogłyby stać się punktem wyjścia do zasad pilnego kontaktu i zgłaszania poważnych zdarzeń. Udział USA i Chin byłby ważny, ale inne państwa także powinny mieć wpływ na standardy i dostęp do możliwości testowania.

Zapożyczyć zasady, nie gotowe przepisy

Z kontroli zbrojeń warto zaczerpnąć ideę wąskich, wzajemnych zobowiązań, których przestrzeganie da się sprawdzić. Z nadzoru finansowego — zasadę, by najbardziej wymagające obowiązki kierować tam, gdzie awaria mogłaby mieć największe skutki. Deweloperzy i podmioty wdrażające systemy wysokiego ryzyka mogliby podlegać niezależnym ocenom, obowiązkom sprawozdawczym i wymogom przygotowania planów naprawczych. Dotyczyłoby to również szybkiego zgłaszania poważnych awarii, istotnych wycieków danych, włamań i kradzieży modeli.

Mniejsze firmy oferujące usługi niskiego ryzyka mogłyby korzystać ze wspólnej infrastruktury testowej i prostszej dokumentacji. Sam rozmiar firmy nie powinien jednak zwalniać z rygorystycznej oceny niebezpiecznego systemu.

Traktat i stała instytucja międzynarodowa do 2030 r. byłyby ambitnym celem politycznym, a nie pewną prognozą. Bardziej miarodajny pierwszy sprawdzian jest bliżej: czy państwa potrafią uzgodnić definicje incydentów, niezależność podmiotów oceniających i wzajemne zabezpieczenia — oraz czy organy nadzoru będą mogły działać, gdy przedstawione dowody okażą się niewystarczające.