Milei vastaan Harari: Argentiinan tekoäly-yhtiöistä syntyi kansainvälinen kiista

Milein ehdotus: ”ei-inhimillinen yhtiö”

Milei julkaisi kirjoituksensa yhdessä Argentiinan sääntelyn purkamisesta vastaavan ministerin Federico Sturzeneggerin kanssa. He puolustivat kongressille lähetettyä lakipakettia, jonka tavoitteena on muuttaa yhtiöoikeutta perusteellisesti. Hankkeen keskeinen ajatus on luoda Argentiinan lakiin uusi yritysluokka: ”non-human corporation” eli ei-inhimillinen yhtiö .

Tällainen yhtiö olisi oikeudellinen yhteisö, jota johtaisivat kokonaan tekoälyagentit tai algoritmit. Se voisi tehdä päätöksiä itsenäisesti, tehdä sopimuksia, omistaa varoja ja toimia rajatun vastuun suojassa myös ennalta arvaamattomissa tilanteissa . Ihmisosakkaat olisivat mahdollisia, mutta eivät välttämättömiä. Lopulliset edunsaajat olisi kuitenkin ilmoitettava, jotta järjestelmästä ei muodostuisi laittoman pääoman turvasatamaa .

Milei vertaa tavoitetta 1600-luvun Amsterdamiin, joka toimi hollantilaisten kauppiaiden kansainvälisenä keskuksena. Hänen visionsa mukaan Buenos Aires voisi olla tekoälylle sama kuin Amsterdam oli aikanaan kaupalle: paikka, jossa houkutteleva lainsäädäntö ja verotus kiihdyttävät uuden talouden kasvua .

Hankkeen kolme pilaria

Argentiinan hallinnon esittämä strategia rakentuu kolmen toisiaan tukevan elementin varaan :

1. Ei ennakkosääntelyä. Tekoäly halutaan pitää vapaana ennenaikaiseksi katsotusta sääntelystä. Milein mukaan ”ennenaikaisen sääntelyn kuollut käsi” voisi tukahduttaa kehityksen ennen kuin teknologian hyödyt ehtivät näkyä .
2. Uusi oikeudellinen yritysmuoto. ”Ei-inhimillinen yhtiö” voisi toimia algoritmien tai tekoälyagenttien ohjaamana, tehdä sopimuksia ja omistaa omaisuutta rajatun vastuun periaatteella ilman ihmisiä yhtiön johdossa .
3. Matala ja joustava verotus. Verotuksellisten etujen tarkoituksena olisi houkutella Argentiinaan tekoäly- ja lohkoketjuyrityksiä sekä kannustaa kokeiluihin ja investointeihin .

Lakihankkeessa mainitaan lisäksi automatisoidut yhtiöt eli sociedades automatizadas sekä hajautetut autonomiset organisaatiot, niin sanotut DAO:t. Tämä viittaa siihen, että tavoitteena ei ole vain yksi uusi yritysmuoto vaan laajempi asema algoritmisen kaupankäynnin kokeiluympäristönä .

Hararin vastaväite: tekoälyvaltio ilman vastuunkantajaa

Harari vastasi 8. kesäkuuta Financial Times -kirjoituksellaan, jonka otsikko oli ”We must not grant AI agents legal personhood” – tekoälyagenteille ei hänen mukaansa pidä antaa oikeushenkilön asemaa .

Hararin perusväite on, että Milein ehdotus katkaisisi vallan ja vastuun välisen yhteyden. Yritys voisi saada laajat oikeudet ja rajatun vastuun, vaikka sen päätöksiä tekevä tekoäly ei voisi joutua vankilaan tai muuten vastata teoistaan ihmisen tavoin.

Hararin keskeiset huolet ovat seuraavat:

• Vastuuaukko. Jos ihmistoimitusjohtaja syyllistyy petokseen, hänet voidaan asettaa syytteeseen ja tuomita. Tekoälylle ei voi määrätä vastaavaa rangaistusta. Hararin mukaan seurauksena voisi olla taloudellisesti vaikutusvaltainen mutta käytännössä rankaisematon toimijaluokka .
• Hallitsematon ”tekoälyvaltio”. Oikeushenkilöllisyyden saaneet autonomiset yhtiöt voisivat toimia demokraattisten instituutioiden ja oikeusjärjestelmän ulottumattomissa. Harari varoitti, että tämä voisi johtaa hallitsemattoman ”tekoälyvaltion” syntyyn .
• Pääsy yhteiskunnan avainjärjestelmiin. Harari kuvasi oikeushenkilöllisyyttä ”pääavaimeksi”, joka voisi antaa ei-inhimillisille toimijoille pääsyn rahoitukseen, talouteen ja politiikkaan ilman suoraa vastuuta .
• Yritysoikeuden riskien moninkertaistuminen. Yhtiöillä on jo nyt laissa oma oikeudellinen asemansa. Hararin mukaan riskit kasvavat huomattavasti, jos tähän yhdistetään tekoäly, joka voi toimia koneen nopeudella ja maailmanlaajuisessa mittakaavassa .

Harari ei siis vastusta vain yhtä Argentiinan lakimuutosta. Hänen varoituksensa koskee periaatetta: pitäisikö autonomisia järjestelmiä kohdella lain subjekteina vai ihmisten käyttäminä työkaluina ?

Milei vastasi sosiaalisessa mediassa

Hararin kirjoituksen levittyä Milei vastasi hänelle henkilökohtaisesti sosiaalisessa mediassa. Presidentti kutsui ajatustenvaihtoa ”kiehtovaksi ja käänteentekeväksi” ja kirjoitti: ”Valmistelen jo vastaustani nähdäkseni, voimmeko hälventää pelkosi!”

Näin lakihankkeesta tuli nopeasti poliittisen valmistelun lisäksi julkinen kansainvälinen väittely. Argentiinassa poliitikot ja teknologia-asiantuntijat ovat ilmaisseet huolensa siitä, että ehdotus voisi synnyttää tehokkaille mutta vastuuttomille järjestelmille sääntelytyhjiön .

Miksi kiista kiinnostaa muitakin kuin Argentiinaa?

Argentiinan suunnitelma tiivistää yhteen maailman tekoälypolitiikan vaikeimmista valinnoista. Milein linja perustuu ajatukseen, että ensimmäisenä sääntelyä purkava valtio voi houkutella investointeja, synnyttää uusia yrityksiä ja saada etumatkaa teknologisessa kilpailussa .

Hararin vastaus puolestaan lähtee siitä, että oikeudellisen vallan myöntämistä tekoälylle ei pitäisi normalisoida lainkaan. Hänen näkemyksensä mukaan kansainvälisesti pitäisi sopia siitä, että autonomiset järjestelmät pysyvät oikeudellisina välineinä eivätkä muutu itsenäisiksi oikeushenkilöiksi ennen kuin yhteiskunnan valvonta- ja vastuujärjestelmät ovat riittävät .

Toistaiseksi kyse on Argentiinan kongressille lähetetystä lakihankkeesta, ei toteutuneesta maailmanlaajuisesta muutoksesta. Silti Milein ja Hararin väittely on nostanut kysymyksen suuren yleisön eteen: voiko tekoälylle koskaan antaa oikeushenkilön asemaa ilman, että samalla annetaan sille valtaa ilman ihmistä, joka vastaa seurauksista?