Anthropic nie wpuścił brytyjskiego AISI do testów Mythos 5.1. Co wiadomo, a czego nie

Nie wiadomo. Anthropic nie przedstawił publicznie powodu, dla którego brytyjski AI Security Institute (AISI) nie otrzymał dostępu do Mythos 5.1 przed udostępnieniem modelu wybranym podmiotom. Da się więc stwierdzić tylko tyle, że instytut nie został dopuszczony do testów, choć dostęp miała mała, zweryfikowana grupa w USA. Podejrzenie, że chodzi o strategiczne ograniczanie dostępu, jest zrozumiałą interpretacją części brytyjskich urzędników — nie jest jednak potwierdzonym uzasadnieniem Anthropic. 34

Czym Mythos 5.1 różni się od Fable 5.1

Według Anthropic Mythos 5.1 to ograniczony model badawczy dotyczący zastosowań w cyberbezpieczeństwie i biologii, udostępniany wyłącznie wybranym, zweryfikowanym organizacjom. Fable 5.1 jest natomiast modelem szerzej dostępnym, przeznaczonym do wymagającego rozumowania, programowania, badań i długotrwałej pracy agentowej. Oba obsługują kontekst do 1 mln tokenów i odpowiedzi do 128 tys. tokenów. 124

We wcześniejszym opisie podobnego podziału produktów Anthropic wskazywał, że wersja ograniczona opiera się na tym samym modelu bazowym co wariant publiczny, lecz w ściśle określonych obszarach wysokiego ryzyka ma zdjęte zabezpieczenia. 5

Dlaczego odmowa ma znaczenie

AISI jest brytyjską instytucją rządową badającą możliwości najbardziej zaawansowanych systemów AI oraz skuteczność środków ograniczających ryzyko. Instytut zatrudnia ponad 100 specjalistów technicznych i przetestował już ponad 30 modeli z czołówki rynku. 245

Nie ma jednak uprawnień, by prawnie zmusić firmę do przekazania modelu do testów. Współpraca jest dobrowolna. To oznacza, że niedopuszczenie AISI tworzy lukę w niezależnej ocenie właśnie tam, gdzie zabezpieczenia mogły zostać rozluźnione. 267

Czego z tej sprawy nie można wywnioskować

Na podstawie dostępnych informacji nie ma dowodów, że decyzję nakazał rząd Stanów Zjednoczonych albo że była ona wymogiem prawnym. W grę mogą wchodzić m.in. ostrożność związana z kontrolą eksportu, wrażliwość możliwości cybernetycznych i biologicznych, poufność handlowa albo polityka udostępniania modelu wyłącznie organizacjom z USA.

Brak publicznego wyjaśnienia ze strony Anthropic nie pozwala rzetelnie rozstrzygnąć między tymi wariantami.

Szersza stawka: niezależne testy bezpieczeństwa

Brytyjski rząd podkreśla, że AISI nadal współpracuje z twórcami modeli i przeprowadzał przedwdrożeniowe oceny innych systemów. 3 Mimo to sprawa wzmacnia obawę, że dostęp do testów coraz częściej może działać jak instrument strategicznej kontroli, a nie jak element powszechnej, międzynarodowej praktyki bezpieczeństwa — szczególnie w kontekście rywalizacji USA i Chin oraz ograniczeń dotyczących zaawansowanych zdolności cybernetycznych i biologicznych. To nadal interpretacja, nie dowód skoordynowanej polityki protekcjonistycznej. 35

Sedno problemu nie jest wyłącznie proceduralne. Niezależne oceny mają wykrywać zdolności, których twórca modelu może nie zmierzyć w pełni albo które ujawniają się dopiero podczas testów prowadzonych w sposób adversarialny, czyli celowo szukający słabych punktów. Doniesienia o rosnących zdolnościach cybernetycznych i autonomii modeli zwiększają wagę takich badań, lecz same w sobie nie dowodzą, że Mythos 5.1 stanowi zagrożenie egzystencjalne. 6

Wniosek: brak dostępu AISI nie jest dowodem, że Mythos 5.1 jest niebezpieczny. Oznacza natomiast, że istotny niezależny ewaluator nie mógł przed wdrożeniem sprawdzić, czy ograniczona wersja modelu z łagodniejszymi zabezpieczeniami działa bezpiecznie.