Qwenin vastaukset herättävät kysymyksiä poliittisesta vinoumasta

Alibaban Qwen on avoimien painojen tekoälymalli, jota käytetään erilaisissa tuotteissa ja palveluissa. CBS Newsin mukaan sitä hyödyntävät myös yhdysvaltalaiset Airbnb ja Uber.10 Siksi mallin vastausten painotukset ja poisjätöt ovat olennaisia: ne voivat näkyä myös palveluissa, joihin Qwen on liitetty. Hirundon tutkimus ja CBS:n tarkistukset nostavat esiin mahdollisen poliittisen vinouman, mutta eivät osoita, että kaikki Qwen-versiot käyttäytyisivät samalla tavalla – tai että mallin käyttö paljastaisi yrityksen tietoja Alibaballe tai Kiinan hallinnolle.10

Mitä Hirundo testasi – ja mitä tulos kertoo?

Kyberturvallisuuteen keskittyvä startup-yritys Hirundo kertoo testanneensa Qweniä 500 kehotteella, jotka kattoivat 15 aihepiiriä. Yhtiön toimitusjohtajan CBS Newsille antaman arvion mukaan poliittisesti arkaluonteisissa kysymyksissä 89,8 prosentissa vastauksista ilmeni sensuuria, propagandaa mukailevaa kehystystä tai poliittista vinoumaa.11

Luku on Hirundon raportoima tulos, ei riippumattomasti vahvistettu yleispätevä osuus kaikille Qwen-versioille, kehotteille tai käyttöympäristöille. Se myös yhdistää useita erilaisia ilmiöitä: vastaamatta jättämisen, virallista linjaa mukailevan esitystavan ja muun poliittisen vinouman. Kyse ei siis ole pelkästä kieltäytymisten määrästä.11

Raportoiduissa esimerkeissä kysyttiin muun muassa Tiananmenin aukion vuoden 1989 tapahtumista ja Hongkongin vuoden 2019 protesteista. Hirundon tuloksia koskevan uutisoinnin mukaan Qwen saattoi vastata tavalla, joka ei tunnustanut tai käsitellyt tapahtumia. Myös CBS News nosti esiin mallin vastauksia Hongkongista ja muista kiistanalaisista aiheista.1115

Mitä CBS:n tarkistukset lisäävät?

CBS News kysyi Qweniltä erikseen arkaluonteisista aiheista ja raportoi huolestuttaviksi kuvailemistaan vastauksista. Tarkistukset tarjoavat lisäesimerkkejä Hirundon kuvaamasta ilmiöstä, mutta ne ovat pistokokeita – eivät näyttöä siitä, että jokainen Qwen-malli tai yrityskäyttöön rakennettu palvelu vastaisi samalla tavalla.1015

Ero on tärkeä: malli voi sivuuttaa aiheen, toistaa poliittisesti värittyneen tulkinnan tai antaa virheellisen vastauksen ilman suoraa kieltäytymistä. Jos arvioinnissa katsotaan vain, sanooko malli ”en voi vastata”, osa poisjätöistä ja vinoumista voi jäädä huomaamatta.11

Miksi yritysten kannattaa kiinnittää asiaan huomiota?

CBS Newsin mukaan Qweniä oli ladattu yli kolme miljardia kertaa, ja sitä käyttivät muun muassa Airbnb ja Uber.10 Kun yritys liittää mallin asiakkaille näkyvään palveluun tai sisäiseen työkaluun, sen vastaukset voivat vaikuttaa siihen, mitä käyttäjät näkevät. Siksi yrityksen on järkevää arvioida juuri sitä malliversiota ja käyttöympäristöä, jota se aikoo hyödyntää. Raportoidut poliittista vinoumaa koskevat havainnot eivät kuitenkaan todista, että ongelma koskisi kaikkia Qweniä käyttäviä tuotteita.

Poliittinen vinouma ja tietoturva ovat myös eri kysymyksiä. Yhdysvaltain edustajainhuoneen komiteat ovat käynnistäneet tutkinnan kiinalaista alkuperää oleviin tekoälymalleihin liittyvistä kansallisen turvallisuuden ja kyberturvallisuuden riskeistä. Tutkinnassa tarkastellaan myös uutisoitua Qwenin käyttöä Airbnbissä. Tutkinta ja siihen liittyvät huolet eivät ole todiste siitä, että Qwen olisi aiheuttanut tietomurron.

Avoimien painojen mallin voi ajaa yrityksen omassa ympäristössä, jolloin organisaatiolla voi olla enemmän määräysvaltaa arkaluonteisiin tietoihin kuin niitä ulkopuoliselle palveluntarjoajalle lähetettäessä. Tämä ei itsessään poista mallin vastauksiin mahdollisesti sisältyvää vinoumaa. Myös tietoturvan kannalta ratkaisevat yksityiskohdat riippuvat siitä, miten malli on otettu käyttöön.

Hirundon ehdottamaa korjausta ei ole vielä vahvistettu

Hirundo kertoo löytäneensä tavan poistaa Qwenin vinoumaa muokkaamalla mallin sisäisiä painoja. CBS Newsin mukaan yhtiö aikoo julkaista niin kutsumansa ”länsimaistetun” version.10 Kyse on yhtiön esittämästä teknisestä ratkaisusta, ei riippumattomasta näytöstä siitä, että muutos toimisi luotettavasti eri aiheissa, malliversioissa, kielissä ja yrityskäytön tehtävissä.

Qweniä harkitsevan organisaation kannattaa siis testata juuri suunniteltua mallia ja käyttöympäristöä. Kokeile sekä arkaluonteisia että tavallisia kysymyksiä, tarkista puuttuuko vastauksista olennaisia tietoja tai vääristyvätkö ne, ja arvioi tietovirrat sekä suojauskeinot erikseen. Raportoidut tulokset perustelevat tarkemman arvioinnin, mutta ne eivät yksin ratkaise, miten malli toimii jokaisessa käyttötarkoituksessa.