Bezpieczeństwo AI czy ochrona rynku? Pytanie, które stawia szef Mistral AI

„AI to oprogramowanie. Można nad nim zapanować” — przekonywał Arthur Mensch, szef francuskiej firmy Mistral AI, w wywiadzie dla „Le Monde” z 24 września. Zarzucił amerykańskim gigantom wykorzystywanie obaw przed sztuczną inteligencją do umacniania pozycji rynkowej. To ważny zarzut, ale nie rozstrzyga sporu o bezpieczeństwo: ostrzeżenie może dotyczyć rzeczywistego zagrożenia i jednocześnie służyć interesom firmy, która je formułuje.29

Kto ustala zasady bezpieczeństwa?

Sednem sporu jest to, kto wyznaczy tempo rozwoju AI i warunki jej wdrażania. Jeśli największe firmy będą współtworzyć wymogi, które same najłatwiej spełnią, mniejszym konkurentom może być trudniej wejść na rynek. To powód, by badać skutki proponowanych zasad — nie dowód, że zagrożenia zostały wymyślone.29

Sam Mistral nie twierdzi, że wdrażanie AI jest pozbawione ryzyka. Firma ostrzegała, że modele stają się wpływowymi uczestnikami działań, gdy otrzymują samodzielność i dostęp do narzędzi, a ich bezpieczne wdrożenie wymaga ostrożności. Słowa Menscha o możliwości kontrolowania AI należy więc rozumieć jako stanowisko w sprawie zarządzania ryzykiem, a nie gwarancję, że każdy przyszły system da się opanować.72

Ostrzeżenia nie są prognozami

Na początku września Jacob Coxon, były badacz Anthropic, wcześniej związany z OpenAI, ostrzegł, że AI „mogłaby zabić nas wszystkich przed końcem dekady”. Później Dario Amodei, szef Anthropic, wezwał do dobrowolnego spowolnienia prac nad najbardziej zaawansowanymi modelami. Jak relacjonował „Le Monde”, jego apel z 12 września poparli czołowi amerykańscy konkurenci.18

Trzeba traktować te głosy poważnie, lecz nie jako ustalone prognozy. Coxon mówił o możliwości, nie o dowiedzionym terminie katastrofy. Poparcie dla spowolnienia prac samo w sobie nie pokazuje też, że byłoby ono skuteczniejsze od zabezpieczeń dobranych do konkretnych zagrożeń.18

Spór nie przebiega wyłącznie między Europą a USA. Geoffrey Hinton wzywa do szybszego wprowadzania zabezpieczeń, podczas gdy Andrew Ng kwestionuje dowody stojące za najbardziej alarmistycznymi przekazami i sprzeciwia się ogólnemu wstrzymywaniu postępu. Praktyczne pytanie brzmi: które zagrożenia są wykazane i jakie działania rzeczywiście mogą je ograniczyć?

Zarzut zmowy to osobna sprawa

W pozwie wniesionym przez abonentów usług AI zarzucono Anthropic, OpenAI, SpaceXAI i Google uzgodnienie ograniczenia konkurencyjnych prac rozwojowych po apelu o spowolnienie. To zarzut, nie sądowe ustalenie, że firmy zawarły nielegalne porozumienie. Podobne wypowiedzi ich szefów o bezpieczeństwie same w sobie nie dowodzą koordynacji.

Krytyka Menscha i pozew dotyczą zatem dwóch różnych pytań: czy język bezpieczeństwa może sprzyjać największym firmom oraz czy konkurenci rzeczywiście uzgodnili ograniczenie rozwoju. Żadnego z nich nie da się rozstrzygnąć, uznając wszystkie ostrzeżenia za chwyt marketingowy albo każdy apel o ostrożność za dowód zmowy.

Najlepszym sprawdzianem proponowanych środków bezpieczeństwa są niezależnie weryfikowalne dowody na ich skuteczność oraz analiza kosztów, jakie poniosą potencjalni konkurenci. Takiej samej kontroli wymaga stanowisko Mistral na rzecz dalszego rozwoju, jak i apele największych firm o zwolnienie tempa. Interes handlowy każe argumenty sprawdzać, ale nie pozwala automatycznie ich odrzucić.789