Dostęp UE do testów AI obnaża lukę Wielkiej Brytanii w kontroli modeli granicznych

Dostęp, a nie kompetencje techniczne, staje się dziś jednym z głównych ograniczeń w ocenie bezpieczeństwa najbardziej zaawansowanych modeli AI. Brytyjski AI Security Institute (AISI) miał według doniesień nie otrzymać Anthropic Claude Mythos 5.1 do testów przed premierą. Tymczasem ENISA — Agencja Unii Europejskiej ds. Cyberbezpieczeństwa — uzyskała dostęp do Anthropic Mythos 5 oraz OpenAI GPT-6 Astra. 920

Nie jest to jednak prosty podział na „wygraną UE” i „porażkę Wielkiej Brytanii”. Dostęp ENISA dotyczy dwóch konkretnie wskazanych modeli i konkretnych uzgodnień. Nie stanowi automatycznego prawa do testowania wszystkich przyszłych wersji, a zwłaszcza Mythos 5.1.

Dostęp jest przypisany do konkretnego modelu

Rzecznik Komisji Europejskiej potwierdził, że ENISA otrzymała dostęp do Mythos 5 i GPT-6 Astra, by prowadzić ich testy. 9 Osobne relacje wskazują natomiast, że Anthropic nie przekazał AISI modelu Mythos 5.1 przed jego udostępnieniem. Byłby to pierwszy opisywany przypadek, w którym firma nie włączyła brytyjskiej instytucji do przedpremierowego procesu badania dużego modelu. 2023

Różnica ma znaczenie praktyczne. Ocena bezpieczeństwa AI coraz mniej przypomina jednolity proces regulacyjny, a coraz bardziej system podzielony według wersji modelu, poziomu jego zdolności, przewidywanego zastosowania, jurysdykcji oraz kryteriów doboru partnerów przez samą firmę.

Dlaczego Mythos 5.1 jest szczególnym przypadkiem

Anthropic podaje, że Claude Fable 5.1 i Claude Mythos 5.1 są tym samym modelem bazowym, ale wyposażonym w różne poziomy zabezpieczeń. Fable 5.1 jest szeroko dostępny, podczas gdy Mythos 5.1 trafia wyłącznie do programów zaufanego dostępu, przeznaczonych dla prac z zakresu cyberbezpieczeństwa i nauk o życiu. 12

To wykracza poza zwykłe testy produktu. Model wykorzystywany w wrażliwych zadaniach cybernetycznych lub naukowych rodzi pytania o kontrolowane środowiska pracy, monitorowanie nadużyć, weryfikację użytkowników oraz sposób postępowania z informacjami istotnymi dla bezpieczeństwa państwa. Według doniesień dostęp do Mythos 5.1 był początkowo ograniczony do zweryfikowanych organizacji z USA. 1824

Dostępne informacje nie dowodzą, że Anthropic wykluczył Wielką Brytanię z powodu braku zaufania do państwa lub AISI. Wyjaśnieniem mogą być zasady programu ograniczonego dostępu, wymogi bezpieczeństwa operacyjnego i kontrola komercyjna nad dystrybucją modelu. Skutek pozostaje jednak istotny: wcześniejsza współpraca i dobra reputacja instytucji oceniającej nie zapewniły szybkiego dostępu do modelu o potencjalnie dużych konsekwencjach.

Co dostęp ENISA mówi o sile regulacyjnej UE

Unia Europejska ma mocniejszą podstawę prawną niż system oparty wyłącznie na dobrowolnej współpracy. Artykuł 55 AI Act nakłada na dostawców modeli AI ogólnego przeznaczenia o ryzyku systemowym obowiązek prowadzenia ocen według ustandaryzowanych protokołów i narzędzi, identyfikowania oraz ograniczania ryzyka systemowego, rejestrowania i zgłaszania poważnych incydentów, a także zapewnienia odpowiedniego poziomu cyberbezpieczeństwa. 4337

Akt przewiduje też ocenę modelu przed pierwszym wprowadzeniem go na rynek, w tym udokumentowane testy adversarialne — wewnętrzne lub, gdy to właściwe, niezależne testy zewnętrzne. 3534

Te obowiązki dostawcy nie są jednak równoznaczne z nieograniczonym prawem ENISA do otrzymania wag modelu, pełnego dostępu do systemu czy wglądu przed premierą w każdy model graniczny. Porozumienie dotyczące testów ma znaczenie właśnie dlatego, że najwyraźniej zostało osiągnięte zarówno dzięki współpracy z firmami, jak i szerszej pozycji regulacyjnej UE. 49

Regulacja może więc zwiększyć zdolność UE do wymagania dowodów, zarządzania ryzykiem i zgodności z przepisami. Nie usuwa jednak potrzeby bezpiecznej, operacyjnej współpracy przy testowaniu modeli o wrażliwych zdolnościach cybernetycznych, biologicznych czy agentowych.

Dlaczego Wielka Brytania jest bardziej narażona

Brak dostępu AISI do Mythos 5.1 uwidacznia ograniczenia modelu opartego na dobrowolnym udostępnianiu. Po tej sprawie pojawiły się wezwania do nadania AISI silniejszej podstawy ustawowej i większych uprawnień. 23

Dobrowolna współpraca może być szybka i elastyczna, gdy laboratoria AI widzą w niej wartość. Jej słabością jest przewidywalność: firma może ograniczyć dostęp, zmienić grupę uprawnionych partnerów albo uznać, że dany model powinien pozostać w bardziej zamkniętym kanale bezpieczeństwa.

Dla Wielkiej Brytanii oznacza to ryzyko strategiczne. Jeśli jej eksperci będą otrzymywać modele graniczne dopiero po premierze albo po testach przeprowadzonych już przez inne rządy i zatwierdzonych partnerów, kraj może przejść od współtworzenia dowodów dotyczących bezpieczeństwa do korzystania z ustaleń wypracowanych gdzie indziej.

Jak mógłby wyglądać trwalszy model brytyjski

Celem nie musi być obowiązkowe przekazywanie wag modeli. W przypadku systemów o najwyższych zdolnościach mogłoby to samo tworzyć ryzyka dla bezpieczeństwa i własności intelektualnej. Bardziej realistyczny kierunek to kontrolowany, audytowalny dostęp.

Możliwe rozwiązania obejmują:

1. Obowiązek zgłoszenia przed wdrożeniem wybranych modeli granicznych — gdy model przekraczałby zdefiniowane progi zdolności lub ryzyka.
2. Ustawowe uprawnienia do żądania materiałów — takich jak dokumentacja techniczna, wyniki ewaluacji, informacje o incydentach i uzasadnienia bezpieczeństwa.
3. Bezpieczne środowiska testowe — czasowo ograniczony dostęp przez monitorowane API, sandboxy lub inne kontrolowane mechanizmy, bez konieczności udostępniania wag modelu.
4. Ścieżkę oceny z perspektywy bezpieczeństwa państwa — dla modeli mających istotne konsekwencje w cyberbezpieczeństwie, naukach o życiu lub autonomicznych systemach agentowych.
5. Sformalizowaną współpracę z UE — wspólne protokoły ewaluacji, wzajemne kanały bezpiecznych testów i kompatybilne zasady obsługi poważnych incydentów.

Przyszłość: warstwowy dostęp do testów AI

Najbardziej prawdopodobny wydaje się system warstwowy. Modele szeroko oferowane na rynku będą podlegały obowiązkom dokumentacyjnym, testom prowadzonym przez dostawców i procedurom raportowania incydentów. Zdolności istotne dla cyberbezpieczeństwa, biologii i autonomicznych agentów będą zaś coraz częściej oceniane w zamkniętych środowiskach. Najwyższe ryzyko może oznaczać dostęp wyłącznie dla niewielkiej grupy zweryfikowanych partnerów rządowych, laboratoryjnych i bezpieczeństwa.

Przykład ENISA oraz wykluczenie brytyjskiego AISI z przedpremierowych testów Mythos 5.1 pokazują, dlaczego to rozróżnienie ma znaczenie. Rywalizacja nie dotyczy już wyłącznie tego, kto zbuduje najsilniejszy model. Dotyczy także tego, kto będzie mógł go zbadać, przetestować i współkształtować zasady jego użycia, zanim trafi do szerszego zastosowania. 91220

Dla Wielkiej Brytanii zdolności techniczne pozostają ważne, lecz same nie wystarczą. Utrzymanie wpływu będzie wymagało zarówno stabilnych uprawnień prawnych w kraju, jak i trwałych, uwzględniających bezpieczeństwo porozumień o dostępie z partnerami za granicą.