OpenAI, Anthropic och Google DeepMind uppges diskutera AI-säkerhet

När OpenAI, Anthropic och Google DeepMind – tre av de främsta konkurrenterna inom avancerad AI – uppges diskutera säkerhet tillsammans uppstår en central fråga: går det att samordna skyddsåtgärder utan att samtidigt begränsa konkurrensen?

Enligt Bloomberg News, som citeras av Reuters, har bolagen diskuterat samarbete för att prioritera AI-säkerhet. Reuters kunde dock inte självständigt bekräfta uppgifterna, och uppgav att OpenAI, Alphabet och Anthropic inte omedelbart svarade på frågor om rapporten. 4

Samtal – inte en bekräftad överenskommelse

Det rapporterade initiativet rör OpenAI, Anthropic och Alphabetägda Google DeepMind. OpenAI:s globala policychef Chris Lehane sade att företagen hade fört samtal i flera veckor och att de borde försöka arbeta tillsammans för att prioritera säkerheten. 4

Det finns däremot inga offentliga uppgifter som bekräftar ett slutligt avtal, en specifik gemensam standard eller ett bindande säkerhetsprogram. I nuläget handlar det alltså om rapporterade diskussioner, inte om ett formellt samarbetsramverk som har antagits. 4

Varför riskdebatten har skärpts

Samtalen kommer efter att chefer för ledande amerikanska AI-labb offentligt efterlyst en paus i den fortsatta AI-utvecklingen. Det har ökat fokus på så kallade existentiella risker med allt mer kapabla system. 4

Frågan har också fått större politisk tyngd i USA. Fler lagstiftare har efterlyst AI-regler efter varningar från Anthropic-forskare om att den snabba utvecklingen på sikt kan innebära risker på utrotningsnivå. 3

Anthropic har separat uppmanat stora AI-labb att överväga en samordnad och verifierbar paus i utvecklingen om riskerna ökar. Bolaget har varnat för ett scenario där AI-system kan förbättra sig själva snabbare än samhället hinner hantera följderna. 15

Detta är bedömningar av möjliga framtida förmågor och risker, inte ett fastslaget faktum om att sådana utfall kommer att inträffa. Men de förklarar varför frivilliga skyddsåtgärder, gemensamma standarder och tillsyn med rättslig verkan nu diskuteras parallellt.

Säkerhetssamarbete kan hamna i konflikt med konkurrensregler

Den känsligaste frågan gäller konkurrensrätten, som i USA ofta kallas antitrustlagstiftning. Samarbete mellan rivaler kan granskas om det påverkar konkurrensen – särskilt när företagen samtidigt tävlar intensivt om att utveckla och lansera de mest avancerade modellerna.

Lehane sade att han inte ansåg att OpenAI, Anthropic och Google DeepMind behöver ett särskilt undantag från konkurrensreglerna för att samordna säkerhetsarbete. 4 I den bredare debatten har USA:s konkurrensmyndighet FTC:s ordförande Andrew Ferguson sagt att allmänheten bör vara ”djupt misstänksam” mot AI-bolag som söker konkurrensrättsliga undantag. Experter uppgav samtidigt för Reuters att gällande lagstiftning redan kan tillåta samordning för att avvärja katastrofrisker. 2

Skillnaden är viktig: gemensamma säkerhetstester eller riskhanteringsrutiner kan ses som skydd mot skada. En överenskommelse om att bromsa utvecklingen på ett sätt som hämmar marknadskonkurrensen skulle däremot väcka svårare juridiska och politiska frågor.

Ökat tryck på federala regler i USA

Lehane sade också att OpenAI skulle stödja lagstiftning med stöd från båda partierna i USA för att minska katastrofrisker med AI. 4

I USA:s senat diskuteras ett möjligt så kallat duty of care, en omsorgsplikt som skulle kräva att AI-utvecklare visar att de vidtar rimliga försiktighetsåtgärder för att förebygga skada. Det amerikanska handelsdepartementet skulle då kunna begära in underlag och låta statliga granskare testa produkter. 8

OpenAI har även förespråkat obligatoriska nationella krav på AI-säkerhet i USA och ansett att standarderna bör sträcka sig utanför landets gränser. 6

Det avgörande att följa framöver

Det viktigaste som fortfarande saknas är besked om huruvida samtalen leder till ett offentligt och formellt åtagande med tydliga skyddsåtgärder, oberoende utvärdering och ansvarsutkrävande.

Just nu stödjer underlaget en mer begränsad slutsats: OpenAI, Anthropic och Google DeepMind uppges diskutera AI-säkerhet i en tid av växande oro för avancerade AI-risker och ökande krav på gemensamma standarder och federal lagstiftning i USA. 4

Ett framtida samarbete kommer sannolikt att bedömas utifrån två frågor samtidigt: ger det verkligt bättre säkerhet, och kan det ske utan att säkerhetsargument blir ett sätt för konkurrenter att begränsa varandra?