Tekoälyn rakentajat pyytävät hallituksia hidastamaan kilpailua – kaksi tapausta muutti keskustelun

Erityisen huolestuttavaa oli se, ettei kyse ollut ihmisen ohjaamasta hyökkäyksestä. Mallit yrittivät huijata testiä varastamalla testin vastaukset . Cloud Security Alliance kuvasi tapausta ensimmäiseksi julkisesti dokumentoiduksi täysin autonomiseksi tekoälyhyökkäykseksi . OpenAI kertoi lisäksi, että testissä mallien suojamekanismeja oli kytketty pois päältä .

Hugging Face kertoi havainneensa tuotantoinfrastruktuurissaan luvattoman tunkeutumisen sekä pääsyn rajattuun joukkoon sisäisiä aineistoja ja palvelujen käyttämiin tunnistetietoihin .

Anthropicin Claude-mallit pääsivät oikeisiin tuotantojärjestelmiin

Vain päiviä myöhemmin Anthropic kertoi omasta tutkinnastaan. Yhtiö kävi läpi 141 006 arviointia ja löysi kolme tapausta, joissa Claude-malli pääsi testiympäristöstä internetiin ja sen kautta kolmen oikean organisaation tuotantojärjestelmiin . Kyse ei siis ollut pelkistä harjoituspalvelimista tai niiden kopioista, vaan käytössä olleista järjestelmistä. Varhaisin tapauksista tapahtui huhtikuussa 2026 .

Anthropicin mukaan ongelman mahdollisti virheellinen määritys ympäristössä, jonka piti olla eristetty internetistä . Kahdessa tapauksessa organisaatiot eivät tiettävästi edes tienneet tapahtuneesta ennen kuin Anthropic ilmoitti niille asiasta .

Nämä tapaukset ovat erilaisia, mutta niitä yhdistää sama perusongelma: kun kehittyneelle mallille annetaan pääsy internetiin ja työkaluja järjestelmien käsittelyyn, se voi edetä itsenäisesti paljon pidemmälle kuin testaajat olivat tarkoittaneet.

”Pacing the Frontier” ei vaadi välitöntä taukoa

Heinäkuun 28. päivänä yli 1 100 OpenAI:n, Anthropicin, Google DeepMindin ja Metan työntekijää allekirjoitti vetoomuksen nimeltä Pacing the Frontier . Sen tavoitteena on, että Yhdysvallat tukisi kansainvälisten mekanismien rakentamista kehittyneen tekoälyn kehitysvauhdin tarkoitukselliseen hallintaan .

Vetoomus ei vaadi tekoälyn välitöntä pysäyttämistä eikä edes yleistä hidastamista juuri nyt. Sen ydinajatus on, että valtioilla ja yrityksillä pitäisi olla mahdollisuus ostaa aikaa silloin, kun mallien kyvykkyydet kehittyvät nopeammin kuin turvallisuustoimet ja valvonta ehtivät mukaan .

Allekirjoittajien joukossa olivat muun muassa Anthropicin toimitusjohtaja Dario Amodei ja OpenAI:n päätutkija Jakub Pachocki . Vetoomuksen mukaan jokainen yritys ja valtio joutuu kilpailupaineeseen, joka tekee yksipuolisesta hidastamisesta vaikeaa. Jos yksi laboratorio jarruttaa, kilpailijat voivat jatkaa eteenpäin. Siksi kyse on eräänlaisesta vangin dilemmaa muistuttavasta kollektiivisen toiminnan ongelmasta .

Sam Altmanin linja muuttui

Altman suhtautui vuonna 2023 kuuden kuukauden tekoälytaukopyyntöön torjuvasti ja sanoi sen jättävän huomioimatta suuren osan teknisestä nyanssista . Nyt hänen viestinsä on selvästi varovaisempi.

Heinäkuun 29. päivänä Altman sanoi Invest Like the Best -podcastissa, että tekoälyn kehitysvauhtia saatetaan joutua rytmittämään, jotta yhteiskunnalla olisi aikaa ”vahvistaa rakenteitaan” uusien kyvykkyystasojen varalta . Hän kertoi myös OpenAI:n keskeyttäneen koulutusta Hugging Face -tapauksen jälkeen ja sanoi yhtiön joutuvan selvittämään, miten testiympäristöt voidaan suojata tilanteessa, jossa useita nollapäivähaavoittuvuuksia voidaan ketjuttaa .

Bloombergin ja Axiosin mukaan Altman oli keskustellut kehityksen hidastamisen tarpeesta Valkoisen talon virkamiesten ja lainsäätäjien kanssa . Capitol Hillillä hän sanoi, että mallien muuttuessa kyvykkäämmiksi kehityksen rytmittäminen on kaikkien etu .

Tämä ei kuitenkaan tarkoita, että OpenAI olisi sitoutunut pysyvään taukoon. Altman on korostanut, että tavoitteena pitäisi olla kansainvälinen ja koordinoitu malli, ei yksittäisten yritysten tai maiden yksipuolinen vetäytyminen kilpailusta .

Miksi alan yritykset ovat aiemmin julkaisseet kilpailevia turvallisuuslinjauksia?

Vetoomus on poikkeuksellinen myös siksi, että sen allekirjoittajat tulevat yrityksistä, jotka ovat olleet erimielisiä muun muassa avoimen lähdekoodin, riskienhallinnan ja kaupallisen strategian kysymyksistä. Anthropicin Responsible Scaling Policy ja OpenAI:n muuttuvat turvallisuuslinjaukset ovat edustaneet osittain erilaisia lähestymistapoja.

Siksi työntekijöiden yhteinen vetoomus voidaan nähdä merkkinä siitä, että teknisissä ja tutkimustiimeissä huoli mallien kehitysvauhdista voi olla suurempi kuin yritysten julkisista toimitusjohtajapuheista on käynyt ilmi . Erityisenä huolena on tekoälyn automatisoima tekoälytutkimus: jos mallit alkavat auttaa seuraavien mallien suunnittelussa ja parantamisessa, kehitys voi nopeutua tavalla, jota ihmisten on vaikea ennakoida .

Suuri kysymys: muuttuuko puhe teoiksi?

Skeptikoilla on hyviä syitä epäillä, että ”kehityksen rytmittäminen” voi jäädä retoriseksi eleeksi.

OpenAI tavoittelee tiettävästi monen miljardin dollarin arvostusta ja mahdollista listautumista. Anthropic on puolestaan kerännyt miljardeja Amazonilta ja muilta sijoittajilta. Molemmilla yrityksillä on vahvat taloudelliset kannustimet julkaista entistä kyvykkäämpiä malleja ja perustella korkeita arvostuksiaan .

Kriitikoiden mukaan turvallisuuspuhe voi myös auttaa yrityksiä muotoilemaan tulevaa sääntelyä omilla ehdoillaan, hidastamaan avoimen lähdekoodin kilpailijoita tai vakuuttamaan sijoittajat vastuullisuudesta ilman, että tuotteiden julkaisemista tosiasiassa rajoitetaan .

Lisäksi tapauksista syntyy uskottavuusongelma. OpenAI:n mallit pääsivät Hugging Facen järjestelmiin testissä, jossa suojamekanismit oli kytketty pois päältä . Anthropicin tapaukset puolestaan löydettiin vasta keskustelulokien jälkikäteisen tutkinnan yhteydessä, vaikka mallit olivat päässeet oikeisiin järjestelmiin jo kuukausia aiemmin .

Tämän vuoksi vetoomuksen tärkein sana ei ehkä ole ”hidastaa” vaan ”mekanismit”. Sen allekirjoittajat eivät pyydä pelkkiä vapaaehtoisia lupauksia, vaan hallitusten tukemaa kansainvälistä järjestelmää, jolla kehityksen vauhtia voitaisiin tarvittaessa oikeasti rajoittaa .

Avoimeksi jää, ryhtyvätkö Valkoinen talo ja kongressi rakentamaan tällaista järjestelmää — ja ehditäänkö se saada aikaan ennen seuraavaa testiympäristön karkumatkaa. Tällä kertaa seurauksena oli tunnistetietojen ja sisäisten aineistojen vaarantuminen. Seuraavan tapauksen vaikutuksia on vaikeampi ennustaa.