Chen Yixin: tekoälyn väärinkäyttö voi uhata Kiinan poliittista turvallisuutta

Chen Yixin kehysti tekoälyn ennen kaikkea kansallisen turvallisuuden ja hallinnon turvallisuuden kysymykseksi. Hänen mukaansa vihamieliset toimijat voisivat käyttää teknologiaa Kiinan horjuttamiseen, arkaluonteisten tietojen hankkimiseen, infrastruktuurin vaarantamiseen ja maan sulkemiseen kriittisen teknologian ulkopuolelle. 3712

Kuusi tekoälyyn liittyvää riskiä

Kiinan virallisessa China Cyberspace -lehdessä julkaistussa kirjoituksessaan Chen nosti esiin kuusi tekoälyyn liittyvää turvallisuusriskiä. Hän varoitti, että vastapuoli voisi hyödyntää valevideoita ja -äänitteitä, tekoälyllä tuotettuja tekstejä ja kuvia sekä automatisoituja sosiaalisen median tilejä poliittisten huhujen levittämiseen laajassa mittakaavassa. Tällaisilla keinoilla voitaisiin hänen mukaansa levittää haitallista sisältöä, lietsoa yhteiskunnallisia vastakkainasetteluja ja käydä mielipide- ja kognitiivista vaikuttamista. Se voisi suoraan uhata Kiinan poliittista, institutionaalista ja ideologista turvallisuutta. 57

Chen varoitti lisäksi, että tekoäly alentaa kybermurtojen ja haittaohjelmien kehittämisen kustannuksia sekä tarvittavaa teknistä osaamistasoa. Teknologia voi hänen mukaansa helpottaa tiedustelua ja mahdollistaa valtionsalaisuuksien, kaupallisesti arkaluonteisten tietojen ja henkilötietojen laajamittaisen vuotamisen. Vaarassa voivat olla myös kriittinen tietoinfrastruktuuri ja yhteiskunnan hallintajärjestelmät. 31113

Tekoäly on myös teknologista valtapolitiikkaa

Chen kuvaa kansainvälistä tekoälykilpailua tilanteena, jossa johtavat valtiot vetoavat kansalliseen turvallisuuteen asettaakseen teknologiarajoituksia, muovatakseen tai hallitakseen standardeja ja rakentaakseen suljettuja ekosysteemejä. Tästä näkökulmasta tekoälyn turvallisuutta ei voi erottaa strategisesta riippuvuudesta, toimitusketjujen hallinnasta, teknologisesta rajoittamisesta tai ulkomaisesta vaikuttamisesta. 57

Kiinan näkökulmassa tekoälyn turvallisuus tarkoittaa siten valtiokeskeisesti poliittisen vakauden, kommunistisen puolueen vallan, ideologisen kontrollin, datasuvereniteetin ja infrastruktuurin suojaamista. Ulkomainen pääsy kiinalaiseen dataan tai tekoälyllä tehtävät vaikutusoperaatiot nähdään suorina kansallisen turvallisuuden uhkina. 57

Eroaa Silicon Valleyn turvallisuuskeskustelusta

Anthropicin toimitusjohtaja Dario Amodei esitti esseessään We Must Pace the Frontier toisenlaisen painotuksen. Hän ei vaatinut tekoälykehityksen lopettamista, vaan kyvykkyyksien kehittämisen tahdin hidastamista niin, että mallien kohdistaminen ihmisten tavoitteisiin, tekniset turvatoimet ja ulkopuolinen testaus pysyvät mukana. Hänen ehdotuksiinsa kuuluvat riippumattomat arvioijat, joilla olisi tekoälylaboratorioissa työntekijää vastaava jatkuva pääsy, yhteiset turvallisuussitoumukset demokraattisille maille sekä pitkällä aikavälillä laajempi kansainvälinen yhteistyö, johon osallistuisivat myös autoritaariset hallitukset. 122

OpenAI:n Sam Altman ilmoitti tukevansa ajatusta työntekijätasoisen pääsyn saavien riippumattomien arvioijien käytöstä. Elon Musk puolestaan ilmaisi julkisesti olevansa Amodein kanssa samaa mieltä kehityksen tahdittamisen tarpeesta. 101

Kiinan turvallisuuslinssi on siis ensisijaisesti valtiokeskeinen, kun taas Piilaakson niin sanottu frontier safety -ajattelu keskittyy mallien kyvykkyyksiin: siihen, voivatko puutteellisesti suojatut tai hallitsemattomat järjestelmät mahdollistaa vakavia kyberhyökkäyksiä, vaarallista tieteellistä väärinkäyttöä, autonomista vahingollista toimintaa tai ihmisen tosiasiallisen kontrollin menettämisen. 122

Näkökulmat eivät silti ole täysin ristiriidassa. Molemmat tunnistavat kyberrikollisuuden, vakoilun, disinformaation ja sotilaalliset käyttötavat riskeiksi. Erimielisyys koskee kuitenkin sitä, kenen standardeja noudatetaan, voivatko turvallisuussäännöt toimia strategisina teknologiarajoituksina ja kuinka paljon avoimuutta tai ulkopuolista arviointia voidaan hyväksyä suvereniteetin ja kansallisen turvallisuuden nimissä.

Miksi tämä on tärkeää Yhdysvaltain ja Kiinan neuvotteluissa

Yhdysvaltojen ja Kiinan oli määrä käydä syyskuun puolivälissä keskustelut, joiden kerrottiin olevan Donald Trumpin toisen presidenttikauden ensimmäinen yksinomaan tekoälytuvallisuuteen keskittyvä virallinen kahdenvälinen dialogi. 4

Chen Yixinin kirjoitus viittaa siihen, että Peking haluaa keskusteluihin myös ulkomaisen vaikuttamisen, datan ja infrastruktuurin suojan, tasapuolisen osallistumisen standardien laadintaan sekä teknologisen eristämisen vastustamisen. Pelkkä keskustelu huippumallien kohdistamisesta ihmisten tavoitteisiin tai katastrofaalisista riskeistä ei todennäköisesti riitä Kiinan agendaksi. 37

Käytännön sopu voi siksi olla helpompi löytää rajatuista haitoista, kuten tekoälyavusteisista kyberhyökkäyksistä, synteettisen median petoksista, vaaratilanneilmoituksista ja sotilaallisten riskien viestintäkanavista. Yleismaailmallisista arviointimalleista tai kyvykkyysrajoista sopiminen on vaikeampaa, koska Washingtonin riskienhallintana pitämät suojatoimet voidaan Pekingissä nähdä Yhdysvaltain teknologisen etulyöntiaseman säilyttämisen välineinä.