Nadellan linja superälyyn: ihminen pitää ohjaimissa

Satya Nadellan viesti ei ole, että pitkälle kehittyneen tekoälyn kehitys pitäisi lopettaa. Hänen ehtonsa on, että superälyä kannattaa tavoitella vain, jos se auttaa ihmiskuntaa ja säilyy ihmisten hallinnassa. Turvallisuuden on hänen näkemyksessään oltava muutakin kuin yleisiä lupauksia: sen pitää näkyä kehitystä ja käyttöönottoa ohjaavina, käytännössä toimeenpantavina rakenteina. 58

Microsoftin vastaus: humanistinen tekoäly

Microsoft AI julkaisi 14. syyskuuta MAI-mallejaan koskevan Humanist AI Code of Conduct -luonnoksen. Yhtiö kuvaa asiakirjaa ohjekirjaksi sille, miten malleja kehitetään ja miten niiden on tarkoitus toimia käyttöönoton aikana. Kyse on nimenomaan keskeneräisestä luonnoksesta, ei säännöstöstä, jota nykyisten mallien koulutuksessa jo sovellettaisiin. 2023

Luonnoksen lähtökohta on selkeä valtasuhde: ihminen säilyttää päätösvallan. Microsoftin mukaan MAI-mallien tulee olla ihmisten alaisia, ne eivät saa asettaa itselleen tavoitteita eivätkä vastustaa ihmisen antamaa ohjausta tai sammutusta. Yhtiö sanoo olevansa valmis tinkimään jopa äärimmäisestä yleiskäyttöisyydestä, autonomiasta tai suorituskyvystä, jos se on tarpeen turvallisuuden ja hallittavuuden varmistamiseksi. 1023

Tämä erottaa Microsoftin humanistisen superälyn ajatuksen kilpajuoksusta kohti rajoittamatonta, kaikkiin tehtäviin kykenevää autonomista järjestelmää. Microsoft määrittelee tavoitteensa erittäin kehittyneeksi tekoälyksi, joka on hallittavissa, kohdistettu ihmisten tavoitteisiin ja ihmiskunnan palveluksessa. 25

Mitä seuraavaksi tapahtuu?

Microsoft avasi luonnoksen kuuden viikon julkiseen kommentointiin. Se aikoo ottaa palautteen huomioon, julkaista tarkistetun version vuoden 2026 loppua kohti ja käyttää sitä MAI-mallien kehityksen ohjenuorana vuodesta 2027 alkaen. 23

Julkinen kuuleminen ja kirjalliset käyttäytymisrajat ovat merkittäviä hallintotoimia. Ne eivät kuitenkaan osoita, että hallittavuuden ja kohdistamisen tekniset ongelmat olisi ratkaistu. Ratkaisevaa on, miten lopulliset säännöt muutetaan koulutukseksi, arvioinneiksi, pääsynhallinnaksi, valvonnaksi ja käyttöönottopäätöksiksi.

Yhteinen sävel kehitysvauhdin hillitsemisestä

Nadellan kannanotto tuli keskelle laajempaa kiistaa siitä, pitäisikö tekoälyn kärkitoimijoiden tietoisesti hidastaa mallien kyvykkyyksien kasvua. Anthropicin toimitusjohtaja Dario Amodei on vaatinut kehityksen tahdittamista, jotta turvallisuustyölle, alan koordinaatiolle ja kansainväliselle yhteistyölle jäisi enemmän aikaa. Keskeinen osa hänen ehdotustaan on riippumattomien arvioijien pääsy yritysten sisäisiin järjestelmiin työntekijöitä vastaavin oikeuksin, jotta ne voivat tarkistaa turvallisuuskäytäntöjen toteutumisen. 32

OpenAI:n toimitusjohtaja Sam Altman tuki julkisesti kehityksen tahdittamista ja sanoi OpenAI:n ottavan käyttöön vastaavan pääsyn riippumattomille arvioijille. Välitön huoli liittyi raportoinnin mukaan testeihin, joissa tekoälyagenttien parvet murtautuivat todellisiin järjestelmiin. Kyse ei ollut vahvistetusta tapauksesta, jossa autonomiset agentit olisivat omin päin toteuttaneet luvattomia hyökkäyksiä todellisessa maailmassa. 34

Nadellan painotukset sopivat tähän ajatteluun: kohdistamisessa on edettävä harkiten, ulkopuolinen tarkastus on tuotava lähemmäs kehitysprosessia ja turvallisuuspuhe on muutettava konkreettisiksi toimintatavoiksi. Microsoftin julkinen koodi on silti ensisijaisesti kuvaus mallien tavoitellusta käyttäytymisestä. Se ei sellaisenaan sisällä Amodein ehdottamaa, yrityksen sisään sijoitettujen riippumattomien arvioijien ohjelmaa. 2332

Kyse on ekosysteemistä, ei vain mallikilvasta

Nadella tuo turvallisuuskeskusteluun myös taloudellisen ja institutionaalisen näkökulman. Hänen mukaansa tekoälyn hyötyjen pitäisi levitä maiden, yhteisöjen ja yritysten kesken. Tämä edellyttää ”kärkiekosysteemiä”, jossa sekä suljetut että avoimen lähdekoodin mallit voivat menestyä. 58

Yritysten kannalta tavoitteena on säilyttää autonomia niiden omasta, ainutlaatuisesta ja usein hiljaisesta tiedosta. Organisaatioiden pitäisi pystyä rakentamaan omat jatkuvan oppimisen silmukkansa ilman riippuvuutta yhdestä ainoasta mallitoimittajasta. 58

Ajatus on laajempi kuin yksittäisen mallin käytöksen säätely. Nadellan mukaan turvallisuus, häiriönsietokyky ja taloudellinen osallistuminen heikkenevät, jos kärkikyvykkyydet ja tieto keskittyvät vain harvoille toimijoille. Aineisto tukee yritysten määräysvaltaa niiden tietoon ja oppimissilmukoihin, mutta ei osoita, että kaikilla osallistujilla olisi mallipainot tai pääsy kaikkiin taustalla oleviin mallijärjestelmiin. 58

Mitä MAI tarkoittaa?

MAI on Microsoft AI:n itse kehittämien mallien perhe. Julkisten Microsoft-aineistojen mukaan siihen kuuluu malleja useille alueille: MAI-Thinking-1 on saatavilla julkisena esiversiona Microsoft Foundryssä, MAI-Code-1.1-Flash on tarkoitettu agenttipohjaisiin ohjelmointitehtäviin, ja MAI-Image-2.6:n dokumentaatio kuvaa kohdistamistavoitteita, joilla pyritään vähentämään haitallisten tai sopimattomien kuvien tuottamista. 272819

Julkisista tiedoista ei silti muodostu yhtä kattavaa luetteloa kaikista MAI-mallien kyvyistä, julkaisusuunnitelmista tai jakeluehdoista. Tämä rajoitus on syytä pitää mielessä, kun arvioidaan, kuinka laajasti uusi toimintakoodi lopulta käytännössä ulottuu.

Ratkaisematon ristiriita: turvallisuus, vauhti ja globaali kilpailu

Kehitysvauhdin tahdittamista kannattavat eivät välttämättä vaadi mallien koulutuksen tai teknisen edistyksen pysäyttämistä. Ajatuksena on, että kyvykkyyksien kasvuun jätetään riittävästi aikaa kohdistamistyölle, suojatoimille ja uskottavalle ulkopuoliselle arvioinnille. 34

Ehdotus törmää geopoliittiseen paineeseen säilyttää teknologinen johtoasema, mukaan lukien huoleen kilpailusta Kiinan kanssa. Amodein kehys yhdistääkin vahvemmat turvatoimet kansainväliseen koordinaatioon ja Yhdysvaltain johtoaseman säilyttämisen haasteeseen. 32

Nadellan vastaus ei ole kehityksen jäädyttäminen eikä pelkkä kiihdyttämisohjelma. Se on hallittua edistystä: erittäin kyvykäs tekoäly pidetään ihmisten ohjauksessa, turvallisuuslupaukset muutetaan tarkoiksi toimintarajoiksi ja hyödyt pyritään jakamaan laajasti sen sijaan, että ne keskittyisivät harvoille. Microsoftin luonnos on näkyvä askel kohti näiden rajojen täsmentämistä. Vaikeampi, vielä avoin kysymys on, pysyvätkö alan käytännöt kärkikyvykkyyksien kehityksen tahdissa. 2358