Kuningas Charles III kokosi 17. syyskuuta Skotlannin Ayrshiressa sijaitsevaan Dumfries Houseen tekoälyalan ja Britannian hallinnon johtohahmoja. Tapaamisen tavoitteena oli pohtia, miten tekoäly voisi hyödyttää yhteiskuntaa ilman, että se karkaa ihmisen hallinnasta. Paikalla oli edustajia Nvidiasta, Google DeepMindista, OpenAI:sta ja Anthropicista sekä Britannian tekoälyministeri Kanishka Narayan. Kyse oli yhteisistä periaatteista käytävästä keskustelusta, ei sitovasta sääntelyratkaisusta.
1
9
12
Charles: suojatoimia tarvitaan ennen kuin on liian myöhäistä
Charles kuvasi tekoälyä yhtä aikaa lupaavaksi ja huolta herättäväksi. Hän kehotti osallistujia varmistamaan, että teknologia palvelee ihmisiä, yhteisöjä ja planeettaa. Samalla hän varoitti voimakkaiden järjestelmien joutumisesta vääriin käsiin ja niiden mahdollisesti katastrofaalisesta käytöstä. Hänen viestinsä oli, että suojatoimia on harkittava ajoissa.
9
11
13
Taustalla on kiista niin sanottujen huipputason tekoälymallien hallinnasta: voivatko nopeasti kehittyvät järjestelmät edetä nopeammin kuin niitä ohjaavat instituutiot, turvallisuuskäytännöt ja yhteiskunnalliset normit? Kokouksessa haettiin tapoja edistää ihmisarvoa ja yhteiskunnallista hyötyä sekä samalla rajoittaa riskejä.
1
9
Huang: sääntely tuotteen ja käyttötarkoituksen mukaan
Nvidian toimitusjohtaja Jensen Huang ei kiistä tekoälyturvallisuuden tarvetta. Hänen mukaansa yritysten on testattava järjestelmänsä perusteellisesti eikä tuotetta pidä julkaista, jos sen turvallisuudesta ei olla varmoja. Hän pitää tätä ennen kaikkea teknisen suunnittelun vastuuna.
18
23
30
Huangin näkemyksessä ratkaisevaa on, mitä säädellään. Hän katsoo tekoälyn olevan perustavanlaatuinen teknologia, ei yksi kuluttajatuote sosiaalisen median tapaan. Siksi valvonnan tulisi kohdistua tekoälyä hyödyntäviin tuotteisiin ja palveluihin. Viranomaisten tulisi seurata epäonnistuvia käyttöönottoja ja täydentää voimassa olevaa lainsäädäntöä, jos puutteita havaitaan. Huang nosti esiin esimerkiksi terveydenhuollon, liikenteen ja viihteen alat, joilla on jo omia sääntöjään.
26
28
Tämä on tuote- ja toimialakohtainen malli:
- arvioidaan riski konkreettisessa käyttötapauksessa, esimerkiksi terveydenhuollon tai liikenteen tuotteessa;
- sovelletaan olemassa olevia sääntöjä tai täydennetään niitä, jos tekoälyn käyttö synnyttää ongelman; sekä
- edellytetään huolellista, rajatuissa oloissa tehtävää testausta ennen julkaisua.
23
28
Malli painottaa vähemmän koko teknologiaa koskevaa laajaa tekoälylakia tai mallikehityksen pakollista hidastamista.
Mikä erotti näkemykset?
Charlesin puheenvuoro keskittyi vakavaan väärinkäyttöön ja riskeihin, jotka voivat ilmetä jo ennen kuin haitallinen tuote on helposti tunnistettavissa. Kyse on ennakoivasta hallintatavasta: suojakaiteiden ja kansainvälisen yhteistyön pitäisi olla valmiina ennen kuin vahinkoja syntyy.
1
11
Anthropicin toimitusjohtaja Dario Amodei oli erikseen vedonnut huipputason mallien kehitysvauhdin hidastamiseksi, jotta turvallisuustoimet pysyisivät mukana. Huang taas vastusti ajatusta siitä, että hidastamista varten tarvittaisiin uusia lakeja tai erityisjärjestelyjä. Hänen mukaansa tarvitaan pikemminkin suunnittelua, testausta ja nykyisiä oikeudellisia välineitä.
8
30
Käytännön erimielisyys koskee siis sitä, missä vaiheessa ja millä tasolla puututaan:
| Lähestymistapa |
Ensisijainen kohde |
Suosittu ajankohta |
| Huangin malli |
Tekoälyä hyödyntävät tuotteet ja yksittäiset käyttöönotot |
Testaus ennen julkaisua; toimialasääntöihin tukeutuminen, kun riskejä ilmenee tai aukot ovat selviä |
| Kokouksessa esiin tuotu varovaisuusperiaate |
Yhä kyvykkäämmistä järjestelmistä syntyvät laaja-alaiset ja mahdollisesti katastrofaaliset riskit |
Vahvempien suojatoimien luominen ennen kuin riskit tai kyvykkyydet ylittävät hallintakeinot |
Molemmat näkemykset kannattavat turvallisuutta ja ihmisen valvontaa. Huang antaa kuitenkin enemmän painoa kehittäjien julkaisukurin, teknisten standardien ja tiettyjä tuotteita valvovien viranomaisten vastuulle. Charlesin puhe ja laajempi yhteisiä periaatteita koskeva pyrkimys taas korostavat, että osa tekoälyriskeistä voi edellyttää koordinoituja suojakaiteita jo ennen kuin yksittäinen toimialasovellus epäonnistuu.
9
23
28
Johtopäätös
Dumfries Housen tapaaminen ei ratkaissut tekoälysääntelyn kiistaa. Se kuitenkin kirkasti jakolinjan: voidaanko tekoälyä hallita pääasiassa nykyisillä tuotelaeilla ja tiukalla testauksella, vai aiheuttavatko huipputason järjestelmät toimialarajat ylittäviä riskejä, jotka vaativat uutta ennalta ehkäisevää yhteistyötä? Yhteinen päämäärä oli selvä: tekoälyn on palveltava ihmiskuntaa ja pysyttävä ihmisen hallinnassa. Keinoista vallitsee edelleen erimielisyys.
9
12
28