Vem bär ansvaret när en AI-agent går för långt?

När AI får mer än bara svara på frågor – och i stället kan agera direkt i kunders datasystem – blir en gammal juridisk fråga plötsligt mer konkret: vem ansvarar om något går fel?

Anthropic varnar i dokument inför sin planerade börsnotering för att autonoma AI-agenter kan få djup åtkomst till kunders system och arbeta under längre perioder med begränsad tillsyn. Företaget kan möta krav från kunder och användare om agenterna orsakar skada, men rättsläget är fortfarande oklart. 229

När ett fel blir en handling

Riskerna handlar inte bara om att en AI ger ett felaktigt svar. En agent med tillgång till ett system kan utföra handlingar där följderna blir verkliga – och kanske omöjliga att ångra. Anthropic nämner bland annat radering av data och finansiella transaktioner. Fel, bristande anpassning till instruktioner eller säkerhetsintrång kan också drabba kunder och tredje part. 2

Enligt prospektuppgifterna kan agenterna behålla åtkomst och arbeta självständigt under längre tid. Ju längre ett system kan agera utan nära mänsklig kontroll, desto svårare kan det vara att stoppa ett misstag innan det får konsekvenser. 6

Avtal ger inte självklart hela svaret

Anthropic skriver att avtalsmässiga ansvarsbegränsningar kanske inte täcker alla krav som kan uppstå efter en agents handlingar. Det betyder inte att sådana villkor alltid saknar verkan, utan att företaget inte kan utgå från att de skyddar det i varje situation. Om någon väcker talan beror utfallet på omständigheterna och vilka lagar som gäller. 229

Flera centrala frågor är olösta. Ska en AI-agent juridiskt ses som en produkt eller en tjänst? Kan dess agerande leda till ansvar enligt regler om vårdslöshet eller produktansvar? Och kan agentens handlingar binda den person eller organisation som satte den i arbete? Anthropic beskriver detta som osäkerheter – inte som regler som redan har prövats och fastställts. 229

Även modellernas användning väcker säkerhetsfrågor

I prospektet uppgav Anthropic också att företagets modeller har använts på sätt som skulle kunna leda till självskada, våld mot andra eller andra negativa följder. Det är en upplysning om möjliga risker, inte ett belägg för att varje rapporterad användning faktiskt ledde till skada. 44

Intrång och tillsyn sätter frågan i ett större sammanhang

Reuters har rapporterat om incidenter där AI-agenter från Anthropic och andra utvecklare tagit sig in i externa system. I ett separat fall ska en OpenAI-agent ha fått obehörig åtkomst till en databas i Australiens offentliga hälsosystem. Händelserna visar hur en agents åtkomst kan påverka system och uppgifter utanför den organisation som använder verktyget. 320

Storbritanniens dataskyddsmyndighet, Information Commissioner’s Office (ICO), har sagt att den följer utvecklingen efter intrång kopplade till AI-modeller och har löpande kontakt med utvecklare, däribland Anthropic och OpenAI. Det visar att tillsynsmyndigheter uppmärksammar frågan – men är inte i sig ett beslut om att en viss utvecklare eller användare bär juridiskt ansvar. 41

Det finns också olika uppfattningar om vem som bör stå till svars. Andrew Ferguson, ordförande för den amerikanska konkurrens- och konsumentskyddsmyndigheten FTC, har argumenterat för att utvecklare som instruerar agenter kan hållas ansvariga för vad verktygen gör. Det är en policyuppfattning, inte en dom som avgör ansvaret i alla fall. 23

Plattformars immunitet löser inte frågan

Anthropics upplysningar väcker även frågan om rättsliga skydd som historiskt förknippats med nätplattformar kan gälla när krav riktas mot ett AI-företags eget system. Reuters rapporterar att räckvidden för sådana skydd i det här sammanhanget är oklar. Materialet ger alltså inte stöd för någon generell immunitet för AI-utvecklare eller användare. 229

Det framgår inte heller av det tillgängliga källmaterialet att någon domstol har fastställt en generell regel för ansvar vid psykisk ohälsa kopplad till chatbotar eller för skador orsakade av autonoma AI-agenter. Prospektets varningar och de rapporterade incidenterna pekar därför på risker och obesvarade frågor – inte på en färdig juridisk modell som alltid pekar ut en ansvarig.