Amazon kannattaa tiukkaa tekoälytestausta – ei yleistä hidastamista

Amazon on asettunut tekoälyturvallisuuskiistassa väliasemaan: tehokkaita malleja pitäisi julkaista vasta, kun ne on testattu perusteellisesti ja niihin on rakennettu vahvat suojatoimet. Yhtiö korostaa myös alan ja viranomaisten yhteistyötä. Se ei kuitenkaan kannata yleistä, koordinoitua tekoälykehityksen hidastamista. 6

Amazonin perusviesti on, etteivät turvallisuus ja tekninen edistys ole toistensa vastakohtia. Käytännössä yhtiön malli on testaa ennen käyttöönottoa – ei se, että uusien kyvykkyyksien kehitystahti sidottaisiin aina turvallisuustyön etenemiseen.

Amazonin raja kulkee julkaisuhetkessä

Amazon kertoi Reutersille, että malleja pitäisi julkaista vasta, kun ne ovat valmiita ja turvallisia käyttää. Tämä edellyttää yhtiön mukaan tiukkaa testausta ja vahvoja suojamekanismeja. 6

Ero on merkittävä. Amazon ei vaadi koulutuksen keskeyttämistä eikä yleisiä rajoja mallien parantamiselle. Sen kynnys liittyy siihen, milloin malli voidaan päästää käyttäjille: järjestelmä arvioidaan, siihen lisätään suojauksia ja se julkaistaan vasta, kun se on riittävän turvallinen.

Silti avoimeksi jää olennaisia kysymyksiä: kuka määrittää testien tason, millainen näyttö turvallisuudesta riittää ja voidaanko kehittäjäyhtiöiden itse tekemää arviointia pitää riittävän riippumattomana.

Miten linja eroaa Anthropicista?

Anthropicin toimitusjohtaja Dario Amodei on kehottanut edistyneimpien, niin sanottujen frontier-mallien kehittäjiä hidastamaan mallien kyvykkyyksien parantamista, jos turvallisuustoimet eivät pysy vauhdissa mukana. Hänen ehdotukseensa kuuluu riippumattomia arvioijia, joilla olisi syvällinen pääsy yhtiöiden toimintaan, koko alan yhteisiä standardeja ja kansainvälistä koordinointia. 12

Amodein vaatimus on siis Amazonin kantaa pidemmälle menevä. Amazon painottaa turvallisuutta julkaisukynnyksenä, kun taas Amodei katsoo, että myös itse kehitysvauhtia pitäisi tarvittaessa säädellä. Hänen varoituksensa koskevat mahdollisia tulevia väärinkäyttö- ja hallinnanmenetysskenaarioita; ne ovat perusteita varovaisuudelle, eivät näyttöä siitä, että autonominen tekoäly olisi jo ottanut vallan. 111

Tiivistettynä:

• Amazon: kehitystä voidaan jatkaa, mutta mallia ei pidä julkaista ennen perusteellista testausta ja vahvoja suojauksia. 6
• Anthropic: turvallisuuden pitää vaikuttaa myös siihen, kuinka nopeasti mallien kyvykkyyksiä viedään eteenpäin; tätä tulisi tukea riippumattomalla valvonnalla ja yhteisillä standardeilla. 12

Muut yhtiöt eivät ole täysin samalla kartalla

OpenAI:n Sam Altman, Google DeepMindin Demis Hassabis ja xAI:n Elon Musk ovat julkisesti tukeneet Amodein ehdotuksen suuntaa. Altman sanoi vastaavansa Anthropicin sitoumukseen antaa ulkopuolisille arvioijille työntekijätason pääsy turvallisuuskäytäntöjen tarkastamiseen. 4

Yhteinen tavoite ei silti ratkaise toteutusta. Koordinoitu hidastus edellyttäisi yhteistä määritelmää vaarallisista kyvykkyyksistä, uskottavaa tapaa todentaa sääntöjen noudattaminen ja kilpailijoiden välistä sopua kaupallisen sekä geopoliittisen paineen keskellä. Reutersin mukaan merkittävät tekoälyjohtajat ovat yhä erimielisiä sekä riskien kiireellisyydestä että oikeasta vastauksesta niihin.

Metan toimitusjohtaja Mark Zuckerberg on puolestaan kannattanut markkinaehtoisia suojatoimia koordinoidun hidastamisen sijaan.

Varsinainen kiista: vapaaehtoiset testit vai velvoittava ulkopuolinen valvonta?

Amazonin lähestymistapa sopii yhteen esimerkiksi julkaisua edeltävien arviointien, red teaming -testauksen, tietoturvakontrollien ja riskiraportoinnin kanssa. Nämä ovat jo tunnistettuja tekoälyriskien hallinnan keinoja: vuoden 2026 International AI Safety Report nostaa esiin muun muassa uhkamallinnuksen, kyvykkyysarvioinnit, läpinäkyvyysraportoinnin ja vaaratilanneilmoitukset.

Ratkaisematta on, pitäisikö tällaisten käytäntöjen olla vapaaehtoisia. Yhdysvaltain senaatissa on keskusteltu lainsäädännöstä, joka velvoittaisi tekoäly-yhtiöt osoittamaan, että ne ovat ryhtyneet "kohtuullisiin varotoimiin" haittojen ehkäisemiseksi. Ehdotus voisi antaa kauppaministerille oikeuden pyytää näyttöä toimista ja käyttää valtion tarkastajia yhtiöiden tuotteiden testaamiseen. 20

Tällainen huolellisuusvelvoite siirtäisi keskustelua yhtiöiden omista lupauksista ulkopuoliseen arviointiin. Se ei välttämättä tarkoittaisi kehityksen yleistä pysäyttämistä, mutta se voisi antaa viranomaiselle mahdollisuuden kyseenalaistaa tai estää väitteen siitä, että malli on valmis julkaistavaksi.

Yhteistyössä on myös kilpailu- ja hallintaongelma

Yhteinen turvallisuussopimus voisi yhdenmukaistaa testausta ja raportointia, mutta samalla herää kysymys siitä, kuka pääsee kirjoittamaan säännöt. Yhdysvaltain kilpailuviranomaisen FTC:n puheenjohtaja Andrew Ferguson kehotti suhtautumaan "syvän epäluuloisesti" tilanteisiin, joissa tekoäly-yhtiöt hakevat poikkeuksia kilpailulainsäädännöstä ja lobbaavat samalla uutta sääntelyä. Asiantuntijoiden mukaan nykyinen kilpailulainsäädäntö voi kuitenkin jo sallia yhteistyön katastrofaalisten riskien torjumiseksi. 17

Cohere-yhtiön toimitusjohtaja Aidan Gomez on varoittanut, että pienen joukon hallitsevien laboratorioiden kontrolloima turvallisuusjärjestely voisi vahvistaa vakiintuneiden toimijoiden asemaa. Hän on vaatinut riippumattomasti todennettavia suojatoimia, läpinäkyvyyttä ja laajempaa osallistumista sen sijaan, että johtavat yhtiöt määrittelisivät standardit yksin.

Kritiikki ei kumoa koordinoidun turvallisuustyön perusteluja. Se muistuttaa kuitenkin erillisestä vaatimuksesta: valvonnan on oltava sekä uskottavaa että suojattu siltä, että suuryritykset muokkaavat sääntelyä omaksi edukseen.

Poliittinen ympäristö vaikeuttaa yhteistä mallia

Yhdysvaltain politiikka voi tehdä Amazonin peräänkuuluttamasta yritysten ja hallinnon yhteistyöstä hankalaa. Trumpin hallinto on ajanut kansainvälisesti pidättyväistä suhtautumista uuteen tekoälysääntelyyn, ja presidentti Donald Trump on katsonut nykyisten suojakaiteiden olevan riittäviä. Hallinto on myös ilmoittanut tekoälykehittäjille, ettei avoimien painojen malleja aseteta vapaaehtoisiin turvallisuustesteihin.

Bill Gates on puolestaan arvioinut, etteivät hallitukset ole valmiita tekoälyn aiheuttamiin muutoksiin. Hänen mukaansa maiden pitäisi tehdä kansainvälistä yhteistyötä esimerkiksi työhön kohdistuvien vaikutusten, riippuvuuden ja kyberhyökkäysten riskeissä. 18

Johtopäätös

Amazon ei vaadi tekoälykilpailun hidastamista. Sen vaatimus on tiukempi käyttöönoton kynnys: mallia ei pidä julkaista ennen perusteellista testausta ja vahvoja suojatoimia. 6

Linja on lievempi kuin Anthropicin ehdotus, jossa kehittyneimpien mallien kyvykkyyksien kasvua tulisi hidastaa silloin, kun turvallisuustyö jää jälkeen. Keskustelu onkin kulkemassa kohti käytännön ydinkysymystä: voivatko yritykset uskottavasti valvoa itse omia julkaisupäätöksiään, vai pitääkö riippumattomilla arvioijilla ja viranomaisilla olla valta tarkistaa, kyseenalaistaa tai estää ne? 120