USA i Chiny rozmawiają o bezpieczeństwie AI, ale najkonkretniejszy pomysł dotyczy zgłaszania incydentów

Najmocniejsze dostępne dowody dotyczące spotkania Donalda Trumpa i Xi Jinpinga 24 września wskazują na zarządzanie ryzykiem w trwającej rywalizacji o AI, a nie na uzgodnienie wiążących ograniczeń. Najkonkretniejsza inicjatywa dotyczyła sposobu powiadamiania się o poważnych incydentach. Taki kontakt mógłby pomóc w kryzysie, lecz sam w sobie nie nakłada obowiązku bezpieczniejszego rozwijania modeli.12451

Co właściwie zaproponowano?

Przed spotkaniem amerykański sekretarz skarbu Scott Bessent poinformował, że podczas rozmów z wicepremierem Chin He Lifengiem strona USA zaproponowała mechanizm powiadomień dotyczących bezpieczeństwa AI. Przywódcy mieli go rozważyć. Relacje prasowe opisywały możliwy dialog o incydentach na tyle poważnych, by budzić obawy o bezpieczeństwo narodowe — propozycję, nie opublikowany zestaw wspólnych reguł.13

W praktyce taki kanał mógłby pozwolić urzędnikom szybko wyjaśnić zdarzenie, które druga strona mogłaby błędnie odczytać jako wrogie działanie. Powiadomienie następuje jednak wtedy, gdy problem już się pojawił. Bez dalszych ustaleń nie oznacza obowiązkowych testów zaawansowanych modeli, niezależnych kontroli, ograniczeń wdrażania ani sankcji za naruszenia.

Deklaracje przywódców to jeszcze nie zobowiązania

Trump sprzeciwiał się nowym regulacjom AI i mówił, że w razie potrzeby mogą interweniować amerykańskie organy ścigania, w tym Departament Sprawiedliwości. Przed spotkaniem napisał też, że „Super Intelligence” będzie ważnym tematem rozmowy, ale chce „pozostawić ją dokładnie tam, gdzie jest”. To wskazuje na niechęć do nowych ograniczeń zapobiegawczych; nie dowodzi, że Chiny podzieliły to stanowisko.5022

Xi oświadczył publicznie, że USA i Chiny mają obowiązek rozwijać AI i nią zarządzać tak, by pozostawała pod kontrolą człowieka.24 Jest to deklaracja celu, nie uzgodnienie wzajemnych testów czy spowolnienia prac. Według doniesień Bloomberga przed spotkaniem żaden z rządów nie sygnalizował zamiaru zwolnienia tempa rozwoju AI.51

Bezpieczeństwo AI i kontrola eksportu to dwa różne spory

Sam Altman z OpenAI i Dario Amodei z Anthropic wezwali na forum Rady Bezpieczeństwa ONZ do międzynarodowej koordynacji w sprawie ryzyka związanego z AI. Amodei opowiadał się również za wolniejszym, uważniej monitorowanym rozwojem modeli, w tym za niezależnym nadzorem i szerszymi regulacjami.1748 Są to postulaty środków zapobiegawczych, nie dowód, że rządy je przyjęły.

Osobno Chuck Schumer, Elizabeth Warren i inni senatorowie Demokratów domagali się ostrzejszych ograniczeń eksportu do Chin zaawansowanych układów AI oraz sprzętu do produkcji chipów, a także głosowań nad projektami ustaw w tej sprawie.3545 Ograniczanie dostępu rywala do technologii nie jest tym samym co wspólny obowiązek testowania systemów przed ich wdrożeniem. AI była ponadto tylko jednym z tematów szerszych rozmów USA–Chiny, obejmujących handel i inne spory strategiczne.34

Po czym poznać rzeczywiste porozumienie?

Potrzebne byłyby opublikowane ustalenia wskazujące, jakie systemy i incydenty obejmują, kto ma je zgłaszać i w jakim terminie. Porozumienie zapobiegawcze musiałoby iść dalej: określać wymagane oceny bezpieczeństwa lub warunki wdrażania, sposób sprawdzania ich przestrzegania oraz konsekwencje naruszeń.

Źródła nie są zgodne nawet co do statusu kanału: jedna relacja przedstawia go jako już ustanowiony, podczas gdy najdokładniejsze doniesienia o rozmowach Bessenta opisują amerykańską propozycję do rozważenia.131 Potwierdzenie, że kanał powstał i był używany, świadczyłoby o praktycznej współpracy. Bez treści uzgodnień i dowodów ich wdrożenia ostrożniejszy wniosek brzmi jednak: próba ograniczania ryzyka w rywalizacji, nie dowód na wiążące zabezpieczenia AI.