Znaczące spowolnienie AI wymaga czegoś więcej niż deklaracji

Znaczące spowolnienie rozwoju AI powinno dotyczyć najbardziej zaawansowanych systemów, a nie oznaczać przerwy w korzystaniu ze sztucznej inteligencji w całej gospodarce. Ostatnie publiczne apele czołowych osób z branży postawiły na agendzie niezależne testy i współpracę. Żeby przełożyć te pomysły na wiarygodne zabezpieczenia, potrzeba jednak czegoś więcej niż dobrowolnych obietnic: niezależnej oceny, realnych konsekwencji dla decyzji o wdrożeniu oraz zasad dostosowanych do skali ryzyka.

Singapur ma już przydatne narzędzia: ramy zarządzania agentami AI, zestaw testów AI Verify i program akredytacji zewnętrznych testerów AI. Wyzwaniem jest teraz powiązanie tych rozwiązań z jasnymi, opartymi na dowodach decyzjami o systemach, które są faktycznie wdrażane. 4

Co wynika z apeli o spowolnienie AI — a co nie

Propozycje dotyczą tempa rozwoju AI nowej generacji — najbardziej zaawansowanych systemów, w przypadku których zabezpieczenia twórców i zewnętrzny nadzór mogą nie nadążać za wzrostem możliwości. Wśród pomysłów opisywanych w ostatnich doniesieniach znalazły się stały dostęp niezależnych ewaluatorów do czołowych firm AI, uzgadnianie standardów bezpieczeństwa oraz szersza współpraca międzynarodowa.

To oznaka rosnącego zainteresowania, a nie gotowa polityka czy wiążące porozumienie między firmami. Międzynarodowy raport o bezpieczeństwie AI ocenia, że metody zarządzania ryzykiem są wciąż rozwijane, a większość firmowych inicjatyw pozostaje dobrowolna. To ważne rozróżnienie: zobowiązanie firmy do przetestowania modelu samo w sobie nie tworzy egzekwowalnej zasady, która nakazywałaby opóźnić wdrożenie w razie poważnych zagrożeń.

Warunki wdrożenia powinny zależeć od ryzyka

Praktyczne podejście polegałoby na zaostrzeniu wymagań wobec systemów o większych możliwościach lub szerszych uprawnieniach, bez wprowadzania powszechnego zakazu używania AI. Narzędzie do tworzenia tekstów o niewielkim wpływie na otoczenie i agent uprawniony do podejmowania istotnych działań nie powinny automatycznie podlegać tym samym wymogom. Singapurskie ramy dla agentów AI już zalecają ocenę i ograniczanie ryzyka oraz wyznaczanie punktów kontrolnych, w których ważne lub wrażliwe działania wymagają ludzkiej zgody. 46

W przypadku modeli zaawansowanych i wdrożeń o dużym wpływie można rozwinąć tę zasadę w proces obejmujący:

• Niezależną ocenę przed wdrożeniem: wykwalifikowani zewnętrzni ewaluatorzy otrzymują bezpieczny dostęp do odpowiednich systemów i dowodów, by sprawdzić niebezpieczne możliwości oraz przewidywalne sposoby nadużycia. Stały dostęp takich ewaluatorów pojawia się w niedawnych apelach o kontrolowanie tempa rozwoju AI nowej generacji, ale nie jest powszechnym obowiązkiem.
• Jasne progi i konkretne działania: należy określić, jakie wyniki testów uruchamiają dodatkowe zabezpieczenia, ograniczenie dostępu lub opóźnienie wdrożenia. Niepowodzenie testu powinno prowadzić do udokumentowanej reakcji, a gdy wymaga tego poziom ryzyka — do wstrzymania wdrożenia, nie tylko kolejnego wewnętrznego przeglądu. To propozycje dotyczące nadzoru, a nie wymogi zapisane w obecnych ramach Singapuru. 4
• Zabezpieczenia dopasowane do zastosowania: w przypadku agentów mających uprawnienia do istotnych działań warto rozważyć ograniczony dostęp, ludzką zgodę na kluczowych etapach, monitorowanie i jasno określoną odpowiedzialność. Singapurskie ramy wspierają ograniczanie ryzyka i rzeczywisty nadzór człowieka; konkretne zabezpieczenia powinny zależeć od systemu i sposobu jego użycia. 48
• Ponowną ocenę po istotnych zmianach: znacząca zmiana modelu, używanych przez niego narzędzi lub kontekstu wdrożenia powinna skłaniać do ponownych testów. Wcześniejszy wynik nie jest stałą gwarancją bezpieczeństwa.

Zastosowania o niższym ryzyku powinny mieć prostszą i mniej obciążającą ścieżkę wdrożenia. Regulacje oparte na ryzyku mogą zostawić firmom przestrzeń do korzystania z AI, nie traktując pozytywnego wyniku testu jako dowodu, że system jest bezpieczny w każdych okolicznościach. Przykładem regulacji porządkującej zasady według ryzyka zastosowań jest unijny AI Act.

Wspólne zasady, niezależne testy

Współpraca międzynarodowa mogłaby ułatwić porównywanie wyników testów i ograniczyć presję, by szukać najmniej wymagającego nadzoru. Rządy mogą uzgadniać wspólne metody testowania, zasady wymiany informacji o incydentach i minimalne wymogi dla systemów najwyższego ryzyka. Niezależni ewaluatorzy mogliby następnie oceniać systemy według tych standardów. Niedawne propozycje spowolnienia również zakładają współpracę między firmami i ponad granicami.

Ważny jest podział odpowiedzialności. Władze publiczne powinny ustalać egzekwowalne progi i określać konsekwencje ich przekroczenia. Firmy mogą wnosić wiedzę techniczną, ale nie powinny być jedynymi sędziami we własnej sprawie. Niezależni testerzy potrzebują przejrzystych metod działania, a ich potencjalne konflikty interesów powinny być ujawniane. To zasady, na których można oprzeć proponowany system nadzoru — nie elementy potwierdzone w samych apelach branży.

Na czym może oprzeć się Singapur

Singapurskie Modelowe Ramy Zarządzania AI dla Agentów (Model AI Governance Framework for Agentic AI) zawierają wskazówki dla organizacji wdrażających agentów, w tym dotyczące oceny ryzyka, odpowiedzialności człowieka i zabezpieczeń. Są to wytyczne dotyczące odpowiedzialnego wdrażania, a nie samodzielny, prawnie wiążący warunek dopuszczenia systemu do użycia. 468

AI Verify udostępnia narzędzia do testowania, a program AI Tester Accreditation Programme uznaje zewnętrzne firmy testujące o odpowiednich kompetencjach technicznych i przygotowaniu operacyjnym. Te inicjatywy mogłyby pomóc ujednolicić oceny w różnych zastosowaniach biznesowych i finansowych. Singapur mógłby też wspierać wspólne profile oceny oraz wzorce umów, które wyjaśniają, co powinni wykazać dostawcy modeli, integratorzy systemów, podmioty wdrażające i testerzy. To możliwe kolejne kroki, nie rozwiązania już ustanowione przez przywołane ramy.

Przydatnym celem byłoby uznawanie za granicą metod i dowodów z testów, a nie twierdzenie, że jeden krajowy certyfikat gwarantuje bezpieczeństwo każdego systemu i każdego zastosowania. Ramy i narzędzia testowe mogą pomóc w uporządkowaniu dowodów, ale władze i organizacje nadal muszą ocenić, czy odnoszą się one do rzeczywistego wdrożenia i jego ryzyka.

Bezpieczeństwo AI, niezawodność oprogramowania i cyberbezpieczeństwo

Testowanie odpowiedzi modelu to tylko część oceny agenta AI. Pełna analiza powinna obejmować również oprogramowanie, w którym działa, oraz bezpieczeństwo narzędzi i uprawnień, do których ma dostęp. To powiązane, ale odrębne kwestie: jakie szkodliwe zachowania może wykazywać AI; jak zachowuje się gotowa aplikacja, gdy coś zawiedzie lub się zmieni; oraz czy atakujący może przejąć system albo skierować go na niewłaściwe tory.

Takie łączne podejście to proponowane rozszerzenie procesu oceny, a nie stwierdzenie, że każde istniejące narzędzie obejmuje już wszystkie te obszary. Dokumentacja zestawu AI Verify opisuje testy techniczne dla tradycyjnych systemów uczenia maszynowego, w tym testy sprawiedliwości, wyjaśnialności i odporności. Dlatego w przypadku agentów warto jasno określić, jakie dodatkowe testy całego systemu są potrzebne — zamiast zakładać, że wynik dotyczący samego modelu poświadcza bezpieczeństwo całego wdrożenia.

Po czym poznać, że spowolnienie ma sens

Spowolnienie jest znaczące wtedy, gdy niezależne dowody mogą zmienić dalszy bieg wydarzeń: wdrożenie systemu wysokiego ryzyka można opóźnić, ograniczyć albo skorygować, jeśli zabezpieczenia są niewystarczające, a jednocześnie zwykłe zastosowania o mniejszym ryzyku mają proporcjonalną ścieżkę wdrożenia. Ramy i programy testowania w Singapurze dają podstawę do budowania takiego systemu oceny. Trzeba jednak jasno określić progi dopuszczenia do wdrożenia, sposób egzekwowania zasad i zakres testów.