Chen Yixin: AI może zagrozić politycznemu bezpieczeństwu Chin

Chen Yixin przedstawił AI przede wszystkim jako kwestię bezpieczeństwa narodowego i bezpieczeństwa systemu politycznego. W jego ujęciu technologia może zostać wykorzystana przez wrogie podmioty do destabilizowania Chin, kradzieży wrażliwych danych, naruszania infrastruktury oraz pogłębiania zależności technologicznej od zagranicy. 3712

Sześć kategorii zagrożeń

W artykule opublikowanym w oficjalnym magazynie China Cyberspace minister bezpieczeństwa państwowego Chin wymienił sześć ryzyk związanych z AI. Ostrzegł, że „wrogie siły” mogą używać fałszywych nagrań audio i wideo, obrazów oraz tekstów tworzonych przez AI, a także zautomatyzowanych kont w mediach społecznościowych, aby na wielką skalę fabrykować polityczne pogłoski, rozpowszechniać szkodliwe treści i podsycać społeczne antagonizmy. Takie działania określił jako zagrożenie dla bezpieczeństwa politycznego, instytucjonalnego i ideologicznego Chin. 57

Chen wskazał również, że AI obniża koszt i próg techniczny włamań do systemów oraz tworzenia złośliwego oprogramowania. Może też wspierać gromadzenie danych wywiadowczych i masowe wycieki tajemnic państwowych, wrażliwych danych handlowych oraz danych osobowych. W konsekwencji zagrożone mogą być krytyczna infrastruktura informacyjna i systemy zarządzania społeczeństwem. 31113

AI jako kwestia suwerenności technologicznej

W chińskiej perspektywie bezpieczeństwo AI jest nierozerwalnie związane z rywalizacją mocarstw. Chen opisał międzynarodowy wyścig technologiczny jako sytuację, w której czołowe państwa powołują się na bezpieczeństwo narodowe, by nakładać ograniczenia technologiczne, kształtować lub monopolizować standardy oraz budować zamknięte, własnościowe ekosystemy. Z tego punktu widzenia zagrożeniem są nie tylko błędy modeli czy ich nadużycia, lecz także kontrola nad łańcuchami dostaw, technologiczne „powstrzymywanie” Chin i zagraniczna ingerencja. 57

Inne podejście niż w Dolinie Krzemowej

W tym samym czasie Dario Amodei, szef Anthropic, przedstawił inną diagnozę ryzyka. W eseju „We Must Pace the Frontier” nie postulował zatrzymania rozwoju AI, lecz spowolnienie wzrostu możliwości najbardziej zaawansowanych modeli na tyle, by nadążyły za nim prace nad dostosowaniem modeli do ludzkich celów, zabezpieczeniami i niezależnymi testami.

Amodei zaproponował stały dostęp niezależnych oceniających do laboratoriów tworzących modele graniczne — na poziomie zbliżonym do dostępu pracowników — wspólne zobowiązania bezpieczeństwa firm i państw demokratycznych, a w dalszej perspektywie szerszą współpracę międzynarodową, obejmującą również rządy autorytarne. 122

Sam Altman z OpenAI zapowiedział przyjęcie pomysłu niezależnych ewaluatorów z dostępem podobnym do pracowniczego. Elon Musk publicznie poparł natomiast apel Amodeiego o ostrożniejsze tempo rozwoju. 101

Co dzieli oba podejścia

Pekin patrzy na AI przez pryzmat stabilności politycznej, władzy Komunistycznej Partii Chin, kontroli ideologicznej, suwerenności danych i ochrony przed zagranicznym przymusem technologicznym. Dlatego operacje wpływu tworzone przez AI czy zagraniczny dostęp do chińskich danych są traktowane jako bezpośrednie zagrożenia dla państwa. 57

Podejście reprezentowane przez firmy z Doliny Krzemowej koncentruje się z kolei na możliwościach samych modeli: ryzyku katastrofalnych cyberataków, autonomicznych szkodliwych działań, niebezpiecznych zastosowań naukowych oraz utraty znaczącej kontroli człowieka nad systemami AI. Odpowiedzią mają być testy, zabezpieczenia techniczne i ponadnarodowe zasady bezpieczeństwa. 122

Te perspektywy częściowo się pokrywają — obie strony dostrzegają zagrożenia związane z cyberatakami, szpiegostwem, dezinformacją i zastosowaniami wojskowymi. Spór dotyczy jednak tego, czyje standardy powinny obowiązywać oraz czy zasady „bezpieczeństwa” nie staną się w praktyce narzędziem ograniczania technologicznej konkurencji.

Znaczenie dla rozmów USA–Chiny

Planowane na połowę września rozmowy mają być pierwszym za drugiej kadencji Donalda Trumpa oficjalnym dialogiem USA i Chin poświęconym wyłącznie bezpieczeństwu AI. 4 Artykuł Chena sugeruje, że Pekin będzie chciał rozmawiać nie tylko o bezpieczeństwie najbardziej zaawansowanych modeli i ryzykach katastrofalnych, ale również o ingerencji z zagranicy, ochronie danych i infrastruktury, równym udziale w ustalaniu standardów oraz sprzeciwie wobec technologicznego ograniczania Chin. 37

Porozumienie może więc być trudne, choć węższe uzgodnienia — na przykład dotyczące cyberataków wspieranych przez AI, oszustw z użyciem syntetycznych materiałów, zgłaszania incydentów czy komunikacji o ryzykach wojskowych — mogą być bardziej realne niż globalne limity możliwości modeli lub jednolite zasady zewnętrznej kontroli.