Arthur Mensch kysyy, suojaavatko tekoälyvaroitukset ihmisiä vai markkinajohtajia

Ranskalaisen Mistral AI:n toimitusjohtaja Arthur Mensch syytti 24. syyskuuta julkaistussa Le Monden haastattelussa alan yhdysvaltalaisia jättiyhtiöitä tekoälyn riskeihin liittyvän pelon hyödyntämisestä. Hänen viestinsä oli suora: ”Tekoäly on ohjelmistoa. Sitä voidaan hallita.” Väite haastaa ajatuksen siitä, että kehityksen hidastaminen olisi ainoa vastuullinen vaihtoehto. Se ei kuitenkaan yksin todista, että kaikki tulevat tekoälyjärjestelmät pysyvät hallinnassa.29

Turvallisuussäännöt voivat myös muovata kilpailua

Menschin kritiikin ydin on kysymys siitä, kuka määrittelee turvallisen kehitystahdin. Jos alan suurimmat toimijat ajavat vaatimuksia, joiden täyttäminen edellyttää niiden kaltaisia resursseja, säännöt voivat vaikeuttaa pienempien kilpailijoiden asemaa. Mahdollinen kilpailuhaitta ei silti osoita, että turvallisuusriskit olisi keksitty.29

Mistral ei itsekään väitä tekoälyn käyttöönottoa vaarattomaksi. Yhtiö on varoittanut, että mallit voivat muuttua vaikutusvaltaisiksi toimijoiksi, jos niille annetaan itsenäistä toimintavapautta ja pääsy työkaluihin. Turvallinen käyttöönotto vaatii sen mukaan huolellisuutta. Menschin puhe hallittavuudesta on siis luettava kannanotoksi riskien hallintaan, ei takeeksi täydellisestä turvallisuudesta.72

Vakavat varoitukset eivät ole varmoja ennusteita

Anthropicilta lähtenyt, aiemmin OpenAI:ssa työskennellyt tutkija Jacob Coxon varoitti syyskuun alussa, että tekoäly ”voisi tappaa meidät kaikki vuosikymmenen loppuun mennessä”. Anthropic-yhtiön toimitusjohtaja Dario Amodei puolestaan esitti 12. syyskuuta edistyneimpien mallien kehittämisen vapaaehtoista hidastamista. Le Monden mukaan Anthropicin keskeiset yhdysvaltalaiset kilpailijat tukivat vetoomusta.18

Coxonin ilmaus kuvaa mahdollisuutta, ei osoitettua määräaikaa. Myöskään hidastamisehdotukselle annettu tuki ei vielä kerro, vähentäisikö yleinen hidastus riskejä tehokkaammin kuin tarkemmin kohdennetut suojatoimet.18

Erimielisyys ei kulje yksinkertaisesti Euroopan ja Yhdysvaltojen välillä. Geoffrey Hinton on vaatinut ripeämpiä turvatoimia, kun taas Andrew Ng on kyseenalaistanut tuhonäkymiin keskittyvän keskustelun näytön ja vastustanut yleisiä vaatimuksia pysäyttää kehitys. Olennaista on erottaa osoitetut riskit mahdollisista uhkakuvista — ja arvioida, mikä toimi vastaa mihinkin riskiin.

Oikeusjuttu on väite, ei ratkaisu

Tekoälypalvelujen tilaajien nostamassa kanteessa väitetään, että Anthropic, OpenAI, SpaceXAI ja Google sopivat kilpailevan kehitystyön rajoittamisesta hidastusvetoomuksen jälkeen. Kyse on oikeudellisesta väitteestä, ei todetusta lainvastaisesta sopimuksesta. Se, että yritysjohtajat esittävät samansuuntaisia turvallisuushuolia, ei sellaisenaan todista niiden koordinoineen toimintaansa.

Menschin kritiikki ja kanne koskevat toisiinsa liittyviä mutta eri kysymyksiä. Ensimmäinen kysyy, voivatko turvallisuusperustelut suosia markkinajohtajia. Toinen kysyy, sopivatko kilpailijat todella kehityksen hidastamisesta. Kumpaankaan ei saa vastausta leimaamalla jokaista varoitusta markkinoinniksi tai jokaista varovaisuusvaatimusta kilpailunvastaiseksi sopimukseksi.

Paras mittari on vaatia turvallisuustoimille riippumattomasti arvioitavaa näyttöä ja selvittää, kohdistuvatko niiden kustannukset kohtuuttomasti uusiin haastajiin. Samalla tarkkuudella on syytä arvioida myös Mistralin perusteita jatkaa kehitystä. Yrityksen oma etu on syy tutkia sen väitteitä — ei syy hylätä niitä suoralta kädeltä.789