Milei mot Harari: Hvem skal ha ansvaret når AI driver selskapet?

Forslagets mest oppsiktsvekkende element er opprettelsen av en ny selskapskategori: «non-human corporation», eller et ikke-menneskelig selskap . Tanken er at virksomheter kan drives fullt ut av AI-agenter, roboter eller algoritmer – uten krav om menneskelige ansatte, ledere eller aksjonærer .

Selskapene skal kunne inngå avtaler, eie verdier og ta selvstendige beslutninger i uforutsigbare situasjoner. De skal også få begrenset ansvar, noe som normalt betyr at eiernes eller deltakernes personlige økonomi i stor grad er skjermet dersom selskapet påfører andre tap .

Milei presenterer dette som et forsøk på å gjøre Argentina til det 21. århundrets knutepunkt for AI – på samme måte som Amsterdam ble et finansielt sentrum for nederlandske handelsmenn på 1600-tallet .

De tre pilarene i Argentinas AI-strategi

Forslaget er bygget rundt tre hovedgrep som skal gjøre landet attraktivt for teknologiselskaper og internasjonale investorer :

1. Ingen forhåndsregulering: Regjeringen vil holde AI «uregulert» og avviser det Milei omtaler som den «drepende hånden» til for tidlig regulering . Målet er at utviklingen skal skje uten at staten først legger omfattende begrensninger på teknologien.
2. En ny juridisk selskapsform: «Ikke-menneskelige selskaper» skal kunne drives av AI-agenter eller roboter, inngå kontrakter, eie eiendeler og operere med begrenset ansvar – også uten menneskelige ledere eller eiere .
3. Lave skatter og fleksible regler: Skattefordeler skal gjøre det mer attraktivt å eksperimentere med AI og blokkjede-teknologi og trekke investeringer til Argentina .

Lovpakken omtaler også automatiserte selskaper, eller sociedades automatizadas, og desentraliserte autonome organisasjoner (DAO-er). Det peker mot en større ambisjon om å gjøre Argentina til et globalt testområde for algoritmestyrt handel og virksomhet .

Hararis svar: «Vi må ikke gi AI juridisk personlighet»

Fire dager senere, 8. juni, svarte Yuval Noah Harari med en kronikk i Financial Times med tittelen «We must not grant AI agents legal personhood» . Harari hadde allerede advart mot juridisk personlighet for AI på internasjonale arenaer, blant annet under Davos-møtet i 2026 . Nå hadde han et konkret statlig lovforslag å rette kritikken mot.

Hararis hovedpoeng er at forslaget kan bryte forbindelsen mellom makt og ansvar. Han trekker særlig frem fire farer:

• Et alvorlig ansvarshull: En menneskelig toppsjef som begår svindel, kan etterforskes og i ytterste konsekvens fengsles. En AI kan ikke fengsles. Harari frykter derfor at AI-styrte selskaper kan få stor økonomisk makt og juridisk beskyttelse uten en menneskelig aktør som kan stilles til ansvar .
• En ukontrollerbar «AI-stat»: Harari advarer om at autonome selskaper kan utvikle seg til et slags «Estado de IA» – en AI-stat – der virksomheter opererer utenfor rekkevidden til demokratiske institusjoner og rettsvesenet .
• En «hovednøkkel» til samfunnet: Han beskriver juridisk personlighet som en «llave maestra», en hovednøkkel som kan gi ikke-menneskelige aktører tilgang til finans, økonomi og politikk .
• Forsterket selskapsmakt: Selskaper har allerede en juridisk personlighet som gjør det mulig å inngå avtaler, saksøke og bli saksøkt. Harari mener risikoen blir langt større når denne makten kombineres med AI som kan handle i maskinhastighet og på global skala .

For Harari handler dette derfor ikke bare om å modernisere selskapsretten. Det handler om hvorvidt autonome systemer skal forbli verktøy under menneskelig kontroll, eller bli juridiske aktører med egne rettigheter og muligheter til å påvirke samfunnet.

Milei lover et svar

Striden ble raskt mer enn en utveksling av kronikker. Kort tid etter at Hararis innlegg begynte å sirkulere, svarte Milei direkte i sosiale medier. Han kalte ordskiftet «fascinerende og transcendentalt» og skrev til historikeren: «Jeg forbereder allerede svaret mitt for å se om vi kan dempe bekymringene dine!»

Dermed har en argentinsk lovidé blitt til en internasjonal debatt mellom teknologisk deregulering og føre-var-tenkning. I Argentina har politikere og teknologieksperter uttrykt bekymring for at planen kan skape et tomrom i reguleringen av kraftige systemer som ingen enkeltperson kan holdes ansvarlig for .

Et veivalg for hele verden

Forslaget er fortsatt først og fremst argentinsk politikk, men spørsmålet det reiser gjelder alle land: Hvor langt kan man gå i å gi autonome systemer juridisk handlekraft før lovverket mister oversikten over hvem som faktisk har ansvaret?

Mileis strategi bygger på ideen om at et land som regulerer mindre enn konkurrentene, kan få et forsprang i kampen om investeringer og teknologisk utvikling. Harari argumenterer for det motsatte: at verden bør bli enige om å holde AI som juridiske verktøy – ikke juridiske personer – før slike systemer får varig innpass i økonomiske og politiske institusjoner .

Mileis lovede utførlige svar er fortsatt ventet. I mellomtiden er spørsmålet om AI noen gang bør få juridisk personlighet, flyttet fra fremtidsspekulasjon til konkret politikk.