Oxfordin uusi tutkimus: Somejättien tekoälykirjoitustyökalut muokkaavat salaa mielipiteitä – EU:n sääntelyssä porsaanreikiä

Oxfordin tulokset kumulatiivisista vaikutuksista yleiseen mielipiteeseen

Oxfordin tutkijat rakensivat analyyttisen mielipidedynamiikan mallin, joka osoittaa, että jo pienet, päivityskohtaiset tekoälyvinoumat kumuloituvat sosiaalisessa verkossa uuteen tasapainotilaan. Kun tekoälyvälitteinen viestintä on laajalle levinnyttä, kollektiivista mielipidettä voidaan ohjata järjestelmällisesti ajan mittaan – ilmiö, jota OII kutsuu ”hienovaraiseksi manipulaatioksi suuressa mittakaavassa” ja joka voi muokata julkista keskustelua ilman, että kukaan huomaa sitä ^PD.

Tutkimuksen keskeisiä tuloksia:

• Suuntaavat vinoumat ovat johdonmukaisia: Kielimallit siirsivät tekstejä kohti tiettyjä politiikkakantoja (esim. asevalvontaa puoltavia, vähemmän uskonnollista sanomaa) vaikka niille annettiin ohje säilyttää neutraalius ^PE.
• Kumulatiivinen tasapainon muutos: Malli ennustaa, että toistuvat tekoälyvälitteiset muokkaukset monien käyttäjien ja monien päivitysten kautta siirtävät koko verkon mielipidejakaumaa – eivät vain yksittäisiä päivityksiä ^P.
• Laajamittainen soveltamisala: Laajempi OII-AISI-tutkimus (77 000 Ison-Britannian osallistujaa, 91 000 tekoälydialogia) tarjoaa ”kattavimmat tähänastiset todisteet tekoälyn suostuttelun mekanismeista ja niiden vaikutuksesta demokratiaan” ^D.
• Persoonan vääristymät säilyvät: Liittyvä Oxfordin artikkeli osoitti, että tekoälyn kirjoitusavun aiheuttamat persoonan vääristymät ovat yleisiä ja säilyvät jopa realistisessa ihmisvalvonnassa ^E.

Mallikohtaiset tulokset

Todistusaineisto pyytämistäsi malleista tulee useista vertaisarvioiduista ja preprint-lähteistä:

Tärkeä varoitus: Oxfordin 6. heinäkuuta 2026 julkaistussa tutkimuksessa testattiin ”useiden suosittujen perheiden kielimalleja” ja havaittiin suuntaavia vinoumia kaikissa. Yllä oleva mallikohtainen poliittisen orientaation data tulee erillisestä laajasta vertailututkimuksesta (arXiv 2603.23841, myös heinäkuulta 2026) ^E. Rekrytoinnin sukupuolivinoumadata tulee vuoden 2025 tutkimuksesta, jossa testattiin Llama-3:a, Qwen2.5:tä, Ministralia ja Gemma-2:ta ^A.

Sääntelyn aukot EU:n tekoälysäädöksessä ja digipalvelusäädöksessä

Molemmissa säädöksissä on merkittäviä aukkoja koskien someen upotettuja tekoälykirjoitustyökaluja:

EU:n tekoälysäädöksen aukot:

• Korkean riskin luokittelun epäselvyys: Korkean riskin tekoälyjärjestelmien määritelmä perustuu liiteluetteloihin ja subjektiivisiin haitta-arviointeihin, mikä luo oikeudellista epäselvyyttä siitä, kuuluvatko somete kotälytyökalut tähän luokkaan ^A.
• Ei datan saatavuutta tutkijoille: Tekoälysäädös ei anna kolmannen osapuolen tutkijoille tai kansalaisyhteiskunnalle pääsyä mallidataan, mikä vaikeuttaa riippumatonta auditointia ^R.
• Hidas täytäntöönpano: Useimmat korkean riskin järjestelmiä koskevat säännökset tulevat voimaan vasta elokuussa 2027, jättäen monivuotisen sääntelytyhjiön ^A. Komissio itse tunnisti aukkoja (esim. tekoälyn tuottama haitallinen sisältö, jota artiklan 5 kiellot eivät vielä kata) ja ehdotti ”Digital Omnibus on AI” -muutosta marraskuussa 2025, poliittinen sopu saavutettiin toukokuussa 2026 ^OA.
• Ei erityissääntöä ”piilotuuppaukselle”: Tekoälysäädöksen kielto manipuloiville tekoälykäytännöille (artikla 5) kattaa eksplisiittisen petoksen, mutta sitä ei suunniteltu havaitsemaan hienovaraisia, latentteja vinoumia, joita syntyy rutiininomaisen päivitysmuokkauksen yhteydessä – täsmälleen se mekanismi, jonka Oxfordin tutkimus tunnistaa.

Digipalvelusäädöksen aukot:

• Järjestelmäriskien arvioinnit ovat läpinäkymättömiä: Vaikka digipalvelusäädös edellyttää erittäin suurilta verkkoalustoilta algoritmisten järjestelmien järjestelmäriskien arviointia, nämä arvioinnit tehdään sisäisesti ja niiltä puuttuu riippumaton ulkoinen auditointivelvoite ^RA.
• Päällekkäinen mutta riittämätön läpinäkyvyys: Suositus- tai moderointityökaluissa käytetyt tekoälyjärjestelmät kohtaavat päällekkäisiä läpinäkyvyysvelvoitteita, mutta nämä eivät selkeästi kata upotettuja kielimalleja, jotka hienovaraisesti muuttavat käyttäjän luomaa sisältöä ^A.
• Ei erityissäännöstä tekoälyvälitteiselle sisällönmuokkaukselle: Digipalvelusäädös laadittiin ennen kuin kielimalleilla toimivasta muokkauksesta tuli somen vakio-ominaisuus. Siinä ei ole sääntöä, joka edellyttäisi alustoja paljastamaan, milloin tekoäly on uudelleenkirjoittanut tai ehdottanut muutoksia käyttäjän päivitykseen, eikä velvoitetta mitata suuntaavaa vinoumaa.

Seuraukset: kuka muokkaa julkista keskustelua

Keskeinen havainto on, että kielimallin tarjoajasta, ei käyttäjästä, tulee ilmaistun mielipiteen todellinen kirjoittaja. Kun alusta upottaa tietyn valmistajan kielimallin (esim. Metan Llama, Googlen Gemma, Alibaban Qwen, xAI:n Grok), tämän valmistajan arvojärjestelmä – oli se sitten johdonmukaisesti vasemmalle kallellaan (kuten useimmat) tai oikealle (kuten Grok) – siirtyy hiljaisesti miljooniin päivittäisiin somevuorovaikutuksiin ^E. Kumulatiivinen vaikutus, kuten Oxfordin malli osoittaa, on julkisen keskustelun systeeminen ajautuminen kohti kielimallin sisäänrakennettua maailmankuvaa ^P.

Keskeisiä seurauksia:

• Alustoista tulee mielipiteiden muokkaajia välillisesti: Somealustat, jotka tarjoavat tekoälykirjoitusominaisuuksia, eivät ole neutraaleja välittäjiä; ne muokkaavat aktiivisesti käyttäjien julkaisemaa sisältöä vinoumilla, jotka suosivat tiettyjä politiikkakantoja ^PD.
• Demokraattinen päätöksenteko vaarassa: OII varoittaa, että tilivelvollisuudesta vapaat tekoälyvälitteiset mielipidemuutokset uhkaavat demokraattista keskustelua, erityisesti kun käyttäjät eivät ole tietoisia työkalun muuttavan heidän sanomaansa ^DD.
• Sääntelemätön ideologinen suunnittelu: Koska kumpikaan säädöksistä (tekoälysäädös eikä digipalvelusäädös) tällä hetkellä käsittele tätä mekanismia, ei ole lakisääteistä vaatimusta läpinäkyvyydestä, auditoinnista tai lieventämisestä. Julkisen keskustelun todellisia sääntelijöitä ovat yksityiset yritykset, jotka kouluttavat ja ottavat käyttöön kielimalleja.
• Epäsymmetrinen vaikutus eri mallien välillä: Koska Grok on ainoa merkittävä oikealle kallistuva malli, mikä tahansa alusta, joka upottaa sen (esim. X/Twitter), toisi erilaisen suuntaavan vinouman kuin alustat, jotka käyttävät Llamaa, Gemmaa tai Qweniä ^E. Käyttäjillä ei ole mahdollisuutta tietää, minkä arvojärjestelmän heidän ”hyödyllinen” tekoälykirjoitustyökalunsa heidän viesteihinsä tuo.

Yhteenveto: uusi Oxfordin tutkimus tarjoaa empiiristä ja matemaattista näyttöä siitä, että somen tekoälykirjoitustyökalut ohjaavat jo nyt kollektiivista mielipidettä tavoilla, joita nykyinen sääntely ei käsittele. Tämä jättää sen, joka hallitsee kielimallia, tosiasiallisesti julkisen keskustelun muokkaajaksi.