Google siirtää tekoälyn vastuutiimin pois DeepMindistä – työntekijät pelkäävät riippumattomuuden heikkenevän

Mitä Google on muuttamassa?

Google suunnittelee siirtävänsä noin 90 hengen AI Responsibility -tiimin pois Google DeepMindistä yhtiön Global Affairs -organisaatioon syyskuun alussa. Raportoidun perustelun mukaan tekoälyn riskien ja yhteiskunnallisten vaikutusten arviointi halutaan lähemmäs politiikkaa, juridiikkaa ja viranomaisyhteistyötä samalla, kun DeepMindiä integroidaan tiiviimmin Googlen tuote- ja Gemini-toimintaan. 53

Tiimi on tarkastellut niin sanottujen frontier-mallien eli alan kehittyneimpien tekoälyjärjestelmien riskejä. Tutkimuskohteisiin ovat kuuluneet esimerkiksi kemiallisten, biologisten, radiologisten ja ydinaineisiin liittyvien uhkien väärinkäyttö sekä mahdolliset psykologiset haitat, joita pitkäkestoiset keskustelut chatbotien kanssa voivat aiheuttaa. Jatkossa ryhmä ei kuitenkaan enää toimisi saman tutkimuslaboratorion sisällä, joka kehittää näitä malleja. 5

Miksi työntekijät ovat huolissaan?

Henkilöstön pelkona on, että siirto tutkimuslaboratoriosta yrityksen yhteiskuntasuhteista ja politiikasta vastaavaan yksikköön voisi:

• heikentää tiimin koettua ja käytännön riippumattomuutta
• etäännyttää sen mallien kehityksessä tehtävistä ratkaisuista
• vaikeuttaa uusien riskien tutkimista tai niiden eskalointia, jos havainnot ovat yhtiölle epämieluisia.

Kyse on organisaation sisältä raportoiduista huolista, ei näytöstä siitä, että tällaisia rajoituksia olisi jo määrätty. 5

Mitä tiimille jää – ja mitä ei vielä tiedetä?

Julkisten tietojen perusteella siirtyvän ryhmän on tarkoitus jatkaa tekoälyn riskien ja yhteiskunnallisten vaikutusten tutkimista. Sen tulevista resursseista ei kuitenkaan ole saatavilla täydellistä ja sitovaa kuvaa.

Epäselvää on esimerkiksi, millainen pääsy tiimillä on uusiin malleihin, kuinka vapaasti se voi julkaista tutkimustuloksia, mikä sen budjetti on ja kenelle se voi raportoida vakavista havainnoista. Siksi ei ole mahdollista sanoa varmasti, mitkä käytännön suojamekanismit säilyvät ennallaan. Näyttö ei myöskään riitä siihen johtopäätökseen, että siirto poistaisi tiimiltä jonkin muodollisen vallan estää mallien julkaisuja. 5

Mitä DeepMindiin jää?

Muut Google DeepMindin ja Googlen ryhmät jatkavat mallien teknisten ja toiminnallisten suojatoimien parissa. Niihin kuuluvat esimerkiksi mallien käyttäytyminen, yksityisyys, tietoturva ja tekninen turvallisuus. 67

Muutos näyttääkin jakavan vastuuta aiempaa selvemmin kahteen osaan: mallien kehitysorganisaatioon kuuluviin teknisiin ja tuotetason kontrolleihin sekä Global Affairs -yksikköön sijoittuviin laajempiin vaikutus-, hallinto- ja politiikkakysymyksiin.

Taustalla laajempi johtamis- ja rakenneuudistus

Demis Hassabis luopui Google DeepMindin päivittäisestä toimitusjohtajan roolista ja siirtyi yksikön hallituksen puheenjohtajaksi sekä Alphabetin päätutkijaksi. Koray Kavukcuoglu, aiemmin DeepMindin teknologiajohtaja ja Googlen tekoälyarkkitehti, sai suuremman operatiivisen vastuun. 1334

Reutersin mukaan Google on lisäksi siirtänyt joitakin tekoälytiimejä DeepMindistä yhtiön keskushallinnon yhteyteen. Johto on painottanut Gemini-mallien kehityksen nopeuttamista, samalla kun yhtiö on menettänyt useita kokeneita tutkijoita ja insinöörejä. 34

Mitä tämä kertoo tekoälyn turvallisuudesta?

Järjestely ei itsessään tarkoita, että Google olisi luopumassa turvallisuustyöstä. Se nostaa kuitenkin esiin suurten tekoälylaboratorioiden keskeisen ristiriidan.

Turvallisuusasiantuntemuksen pitäisi olla riittävän lähellä mallien kehitystä, jotta se voi vaikuttaa suunnitteluun ajoissa. Samalla yritykset keskittävät turvallisuus- ja vastuukysymyksiä yhä enemmän juridisten, poliittisten ja tuotteiden käyttöönottoon liittyvien toimintojen yhteyteen – tilanteessa, jossa kilpailu tehokkaiden mallien julkaisemisesta kiristyy.

Tällainen rakenne voi helpottaa yhtiön laajuista linjakkuutta ja viranomaisyhteistyötä. Se voi kuitenkin myös heikentää sisäisten kriitikoiden koettua ja mahdollisesti käytännön riippumattomuutta, ellei tiimin pääsyä malleihin, julkaisemisen oikeuksia sekä selkeitä eskalointi- ja julkaisujen arviointivaltuuksia suojata nimenomaisesti. 53