Chen Yixin: tekoäly voi horjuttaa Kiinan poliittista järjestystä ja teknologista omavaraisuutta

Chen Yixin kuvasi tekoälyn ennen kaikkea uhkana Kiinan hallintojärjestykselle ja teknologiselle itsemääräämisoikeudelle – ei pelkästään yleisenä turvallisuuskysymyksenä tai äärimmäisenä tulevaisuusriskinä. Hänen mukaansa vihamieliset toimijat voisivat käyttää tekoälyä poliittiseen ja ideologiseen horjuttamiseen, tunkeutua dataan ja infrastruktuuriin sekä syventää Kiinan riippuvuutta ulkomaisesta teknologiasta. 2

Syväväärennökset ja botit osana vaikuttamista

Kiinan valtion turvallisuusministeri varoitti, että syväväärennöksillä, tekoälyn tuottamilla teksteillä ja kuvilla sekä automatisoiduilla sosiaalisen median tileillä voidaan sepittää poliittisia huhuja, levittää haitalliseksi katsottua tietoa ja kärjistää yhteiskunnallisia jakolinjoja. Hänen mukaansa näitä välineitä voidaan käyttää myös niin sanotussa mielipidesodankäynnissä ja kognitiivisessa sodankäynnissä, jotka hänen näkökulmastaan uhkaavat Kiinan poliittista, institutionaalista ja ideologista turvallisuutta. 2

Kyse on valtion turvallisuusajattelusta, jossa informaatiovaikuttamisen uhkana nähdään erityisesti sen mahdollisuus heikentää kommunistipuolueen valtaa, yhteiskunnallista vakautta ja virallista ideologista järjestystä.

Tiedustelu, data ja kriittinen infrastruktuuri

Chen korosti myös tekoälyn kykyä kerätä, yhdistää, analysoida ja profiloida valtavia tietomääriä. Tämä voisi hänen mukaansa helpottaa ulkomaista tiedustelua ja auttaa hankkimaan valtionsalaisuuksia, kaupallista tietoa sekä henkilötietoja. Hän yhdisti kehittyneen tekoälyn myös kriittiseen tietoinfrastruktuuriin kohdistuviin riskeihin. 23

Yhtenä huolena ovat järjestelmien haavoittuvuudet: tekoäly voi auttaa niiden löytämisessä sekä haittaohjelmien tai muiden haavoittuvuuksia hyödyntävien ohjelmien kehittämisessä. 2

Teknologinen omavaraisuus on keskeinen kysymys

Chen esitti tekoälyn myös strategisen kilpailun kenttänä. Johtavat valtiot voivat hänen mukaansa vedota kansalliseen turvallisuuteen rajoittaakseen teknologian vientiä, hallitakseen standardeja ja rakentaakseen suljettuja teknologiaekosysteemejä. 2

Tällaisesta näkökulmasta tekoälyturvallisuus tarkoittaa myös kotimaisen osaamisen ja kapasiteetin vahvistamista, datan, algoritmien ja infrastruktuurin pitämistä valtion hallinnassa sekä ulkomaisesta teknologiariippuvuudesta irtautumista. 2

Miten Chenin linja eroaa Amodeista, Altmanista ja Muskista?

Anthropicin toimitusjohtaja Dario Amodei on vaatinut edistyneimpien tekoälymallien kyvykkyyksien kehitysvauhdin hidastamista, jotta turvallisuustoimet ehtivät mukaan. Hänen kolmivaiheiseen mallinsa kuuluu riippumattomien arvioijien pääsy yhtiöiden järjestelmiin työntekijätasoista pääsyä vastaavin valtuuksin, kehittyneitä malleja rakentavien yritysten yhteiset turvallisuusstandardit sekä kansainvälinen yhteistyö tekoälyriskien hallitsemiseksi. 1

Chenillä painopiste on toinen: suurin uhka ei ole vain se, että tekoälyjärjestelmistä tulisi kaikille vaarallisia, vaan se, että vastustajat käyttäisivät niitä Kiinan poliittisen järjestyksen horjuttamiseen, kiinalaisen datan hankkimiseen ja lännen teknologisen etumatkan säilyttämiseen. Siksi hänen turvallisuuskäsityksensä kytkeytyy myös tiedonhallintaan, turvallisuusseulontaan, keskeisten teknologioiden kotimaiseen hallintaan ja ulkopuolisen sääntelyvallan torjumiseen. 2

Näkemysten välillä on silti rajallinen yhteinen alue. Kiina on nostanut esiin yhä autonomisempien tekoälyjärjestelmien ja ihmisen hallinnan ulottumattomiin ajautumisen tulevaisuuden turvallisuusriskinä. Se tarjoaa jonkinlaisen pohjan Yhdysvaltojen ja Kiinan väliselle keskustelulle, vaikka kiista siruista, malleista, standardeista ja hallintasäännöistä on paljon laajempi. 3

OpenAI:n Sam Altman ja xAI:ta johtava Elon Musk tukivat tässä yhteydessä Amodein linjaa. Altman sanoi OpenAI:n kannattavan kehittyneimmän tutkimusrintaman kehitysvauhdin hillitsemistä ja ilmoitti tukevansa riippumattomia turvallisuusarvioijia. Muskin vastaus oli: ”Dario on oikeassa.” 1

Kiinan virallinen ja valtiollinen media taas on kuvannut länsimaiden kehotuksia hidastaa tekoälykehitystä pelon sävyttäminä, kilpailulle haitallisina tai yrityksenä rajoittaa Kiinan teknologista kehitystä. 2 Siksi mahdollinen Yhdysvaltojen ja Kiinan kahdenvälinen tekoälyturvallisuuskeskustelu kertoo rajatusta yhteisestä huolesta – siitä, voivatko järjestelmät muuttua vaikeasti valvottaviksi – mutta ei yhteisestä tekoälyhallinnan mallista. 3