Ro Khanna chce wiedzieć, czy firmy AI potrafią ochronić swoje najcenniejsze modele

Pytanie Ro Khanny dotyczy nie tylko tego, czy konkurenci potrafią naśladować odpowiedzi amerykańskich modeli AI. Kongresmen chce wiedzieć, czy OpenAI, Anthropic, Google, Meta i xAI odnotowały próby nielegalnego dostępu do wag swoich modeli oraz jakie stosują zabezpieczenia.3 Wagi — czyli wyuczone parametry modelu — są kluczową częścią tego, co pozwala mu działać.

Kradzież wag to nie to samo co destylacja

Kradzież wag oznacza zdobycie samych parametrów modelu. Jeśli ktoś je przejmie, może uzyskać bezpośredni dostęp do modelu i wykorzystywać go poza usługą jego twórcy.

Destylacja to inny proces: firma używa odpowiedzi modelu jako materiału do trenowania własnego systemu. OpenAI i Anthropic informowały o przypadkach destylacji z udziałem chińskich firm. Doniesienia te nie dowodzą jednak, że skradziono oryginalne wagi — znanych przypadków takiej kradzieży jest niewiele.3 Podczas przesłuchania Khanna również rozdzielał problem destylacji od pytania, czy wagi modeli da się skutecznie chronić.

To rozróżnienie ma znaczenie dla bezpieczeństwa. Dostęp do wag może pozwolić na uruchamianie modelu poza kontrolą jego twórcy; w przypadku modeli z otwartymi wagami trudniej też później ograniczyć ich użycie lub je monitorować.16 Nie ma jednak w przedstawionych źródłach potwierdzenia, że Chiny ukradły wagi którejś z firm wymienionych w pytaniu.3

Dobrowolne zasady czy wiążący nadzór?

Administracja Trumpa poparła dobrowolne zobowiązania branży dotyczące bezpieczeństwa i zewnętrznych audytów.9 Jednocześnie administracja zapowiedziała, że nie będzie testować pod kątem bezpieczeństwa modeli z otwartymi wagami w ramach dobrowolnego programu.

Khanna postuluje mocniejszą rolę państwa: obowiązkowe audyty modeli, większy nadzór oraz wiążące porozumienie USA–Chiny z mechanizmami kontroli i weryfikacji.12 Jego pytania do firm sprowadzają się więc do praktycznej kwestii: czy dobrowolne zabezpieczenia wystarczą, gdy stawką jest dostęp do zaawansowanych modeli i ryzyko, że trafią poza kontrolę ich twórców?

Publicznie dostępne informacje nie ujawniają szczegółów zabezpieczeń każdej z firm ani tego, czy doszło do nieujawnionych prób włamania.