Ro Khanna chce wiedzieć, kto próbował wykraść modele AI i jak chronią je firmy

Ro Khanna poprosił OpenAI, Anthropic, Google, Meta i SpaceX o informacje o znanych próbach bezprawnego dostępu do wag ich modeli oraz o opis zabezpieczeń chroniących je przed cyberatakami.713 Chce sprawdzić, czy doszło do prób kradzieży i jak firmy są przygotowane — nie ogłosił, że Chiny lub inny przeciwnik wykradły te modele.1113

Stawką jest coś więcej niż poufne dane przedsiębiorstw. Gdyby ktoś zdobył wagi zaawansowanego modelu, mógłby uzyskać jego parametry i uruchamiać własną kopię. Khanna obawia się, że taki wyciek mógłby osłabić przewagę USA w rozwoju AI i stworzyć zagrożenie dla bezpieczeństwa narodowego.46

Kradzież wag to nie to samo co destylacja

Wagi to wartości liczbowe, które kształtują działanie wytrenowanego modelu. Ich przejęcie oznaczałoby dostęp do samego modelu. Destylacja działa inaczej: twórcy trenują własny system, wykorzystując odpowiedzi udzielane przez większy model. Nie jest to więc kradzież pliku z wagami, choć może pozwalać na odtworzenie części jego możliwości.417

Amerykańscy urzędnicy oskarżali chińskie firmy o wykorzystywanie destylacji, a OpenAI i Anthropic informowały o takich przypadkach. Jednocześnie, jak wynika z relacji Reutersa, znanych przypadków faktycznej kradzieży wag jest niewiele.617 To rozróżnienie ma znaczenie: zarzuty dotyczące kopiowania przez destylację nie dowodzą, że ktoś włamał się do systemów firm i zabrał ich modele.

Cyberbezpieczeństwo i rywalizacja między USA a Chinami

Dla Khanny zabezpieczenie modeli granicznych — najbardziej zaawansowanych systemów AI — jest jednocześnie kwestią cyberbezpieczeństwa i ograniczania dostępu do potężnych narzędzi. Jako czołowy demokrata w komisji Izby Reprezentantów zajmującej się rywalizacją z Chinami, chce wiedzieć, czy firmy zauważyły próby uzyskania dostępu oraz jakie środki stosują, by im zapobiec.47

Nie oznacza to jednak, że jego stanowisko sprowadza się do zaostrzenia rywalizacji. Khanna opowiada się także za porozumieniem USA i Chin w sprawie zabezpieczeń AI, monitorowania oraz wspólnych zagrożeń.25 Analitycy ostrzegają, że eskalacja sporów o rzekome kopiowanie technologii może utrudnić taką współpracę.18

Czy dobrowolne działania firm wystarczą?

Administracja Trumpa zapowiedziała dobrowolne testy cyberbezpieczeństwa dla niektórych zaawansowanych modeli przed ich publicznym udostępnieniem. Według doniesień nie miałyby one obejmować wszystkich modeli. Równolegle administracja promowała podejście, w którym firmy same pilnują przestrzegania uzgodnionych standardów.

Pytania Khanny do firm wpisują się w szerszą debatę: czy dobrowolne testy i wewnętrzne zabezpieczenia są wystarczające, czy potrzebne są bardziej wiążące wymogi i niezależna kontrola. Dostępne informacje nie przesądzają, że testy zapobiegną kradzieży wag. Nie ma też potwierdzenia, że którakolwiek z pięciu wymienionych firm padła ofiarą takiej kradzieży.71113