Milei mot Harari – striden om Argentinas AI-bolag utan människor

Förslagets mest uppmärksammade del är skapandet av en ny juridisk kategori: ”det icke-mänskliga bolaget” (non-human corporation) . Det skulle vara en juridisk person som kan drivas helt av AI-agenter, algoritmer eller robotar – utan krav på mänskliga anställda eller företagsledare .

En sådan verksamhet skulle kunna ingå avtal, äga tillgångar och fatta självständiga beslut i situationer som inte går att förutse. Den skulle dessutom omfattas av begränsat ansvar, ungefär som många traditionella bolag . Mänskliga ägare skulle kunna finnas, men skulle enligt rapporteringen inte vara ett krav. Verkliga huvudmän skulle däremot fortfarande behöva redovisas .

Milei har beskrivit ambitionen som att göra Argentina till 2000-talets AI-hubb – på samma sätt som Amsterdam blev ett finansiellt centrum för nederländska köpmän på 1600-talet .

Tre pelare i Argentinas AI-strategi

Regeringens initiativ bygger enligt rapporteringen på tre huvuddelar som tillsammans ska göra Argentina attraktivt för internationella teknikföretag :

1. Ingen förhandsreglering av AI. Staten skulle avstå från att reglera tekniken på förhand. Milei har beskrivit tidig reglering som en ”död hand” som riskerar att bromsa utvecklingen .
2. En ny juridisk form för AI-styrda bolag. ”Icke-mänskliga bolag” skulle kunna teckna avtal, äga egendom och bedriva verksamhet med begränsat ansvar – även utan mänskliga chefer eller aktieägare .
3. Låga skatter och ett flexibelt skattesystem. Skattefördelar skulle uppmuntra experiment, kapitalinflöden och etablering av AI- och blockkedjeföretag .

Lagpaketet omfattar också förslag om automatiserade bolag, så kallade sociedades automatizadas, samt decentraliserade autonoma organisationer, DAO:er. Det pekar mot en bredare ambition: att göra Argentina till en juridisk testmiljö för algoritmisk handel .

Hararis svar: ett ansvarsglapp med stora följder

Fyra dagar senare, den 8 juni, svarade Yuval Noah Harari i Financial Times med artikeln ”We must not grant AI agents legal personhood” – på svenska ungefär ”Vi får inte ge AI-agenter juridisk personlighet” .

Hararis huvudargument är att juridisk personlighet för icke-mänskliga aktörer skulle bryta länken mellan makt och ansvar. Ett mänskligt företagsledare som begår bedrägeri kan åtalas och i vissa fall dömas till fängelse. Ett AI-system kan inte straffas på samma sätt. Om AI-drivna bolag får långtgående rättigheter och begränsat ansvar kan resultatet därför bli en ekonomisk aktör med stor handlingskraft men utan motsvarande mänskligt ansvar .

Harari lyfter flera risker:

• Ett ansvarsglapp. AI-bolag kan fatta beslut, ingå avtal och hantera tillgångar, men det blir oklart vem som faktiskt kan ställas till svars när besluten leder till skada .
• Ett okontrollerbart ”AI-land”. Han varnar för ett ”Estado de IA” – ett AI-land eller en AI-stat där autonoma bolag verkar bortom demokratiska institutioners och rättsväsendets räckvidd .
• En ”huvudnyckel” till samhället. Harari beskriver juridisk personlighet som en ”master key”, en huvudnyckel som kan ge icke-mänskliga aktörer tillträde till finansväsendet, ekonomin och politiken .
• Förstärkta maktobalanser. Företag har redan i dag juridiska rättigheter som kan ge dem betydande inflytande. Om sådana rättigheter kombineras med AI:s hastighet, räckvidd och förmåga att agera självständigt kan maktkoncentrationen förstärkas kraftigt .
• Risk för politisk manipulation och totalitära användningar. Kritiken handlar inte bara om bolagsrätt, utan om att autonoma aktörer kan ta sig in i ekonomiska och politiska system på sätt som demokratiska institutioner har svårt att kontrollera .

Harari vill därför att AI även fortsättningsvis behandlas som ett juridiskt verktyg som människor använder – inte som en juridisk person med egna rättigheter och skyldigheter .

Milei lovar ett svar

Debatten stannade inte vid två debattartiklar. När Hararis text började spridas svarade Milei personligen i sociala medier. Han kallade meningsutbytet ”fascinerande och transcendentalt” och riktade sig direkt till Harari:

”Jag håller redan på att förbereda mitt svar för att se om vi kan skingra din oro!”

Det offentliga ordväxlandet har därmed gjort den argentinska lagreformen till en större internationell diskussion om vem som ska få juridisk makt i en AI-ekonomi. I Argentina har politiker och teknikexperter samtidigt uttryckt oro för att förslaget skulle skapa ett tomrum i regleringen av kraftfulla system utan tydligt ansvar .

En vägskäl för global AI-styrning

Konflikten mellan Milei och Harari handlar därför om mer än Argentinas bolagslag. Den ställer två helt olika strategier mot varandra.

Mileis linje bygger på att ett land kan vinna försprång genom avreglering, skattefördelar och juridisk flexibilitet. Om Argentina blir först med att erbjuda en sådan miljö hoppas regeringen locka AI-företag och investeringar från hela världen .

Hararis linje bygger i stället på försiktighet. Han vill se en internationell överenskommelse som hindrar stater från att ge AI juridisk personlighet – innan autonoma system hunnit bli etablerade aktörer i finans, näringsliv och politik .

Mileis utlovade fullständiga svar återstår. Men frågan Harari har lyft har redan lämnat den smala juridiska expertdebatten och hamnat mitt i den globala diskussionen om AI:s framtida roll: ska autonoma system förbli verktyg under mänskligt ansvar, eller ska lagen börja behandla dem som självständiga aktörer?