AI-chefer ifrågasatte Amodeis riskvarningar – skrev ändå under Trumps frivilliga löfte

Mötet i Vita huset den 29 september förde samman två saker som inte riktigt gick ihop: en privat konfrontation om hur allvarliga AI-riskerna är och en offentlig uppvisning i enighet. Enligt rapportering ifrågasatte teknikchefer Anthropic-vd:n Dario Amodeis varningar. Efteråt sade Amodei att tekniken innebär ”mycket verkliga risker”, men att det fortfarande diskuteras hur de ska hanteras. Samtidigt presenterade deltagarna och president Donald Trump en frivillig säkerhetsöverenskommelse. Den löste inte oenigheten om statlig reglering. 2

Vad hände under mötet?

Enligt en rapport som återges i den tillgängliga bevakningen uppstod en konfrontation i ett mindre möte, där chefer ifrågasatte Amodei om hans varningar. Underlaget räcker inte för att slå fast exakt vilka som deltog i diskussionen eller vem som sade vad. Det bekräftar inte heller att just den konfrontationen handlade om hot mot cybersäkerheten och förlorade jobb.

Den större skiljelinjen är tydligare. Amodei har argumenterat för regler som kräver oberoende granskning av de mest avancerade AI-systemen. Trump har i stället förespråkat att företagen ska övervaka sig själva, snarare än att möta nya federala begränsningar. 4 Efter mötet upprepade Amodei att riskerna är verkliga, samtidigt som han sade att åtgärderna fortfarande diskuteras. 2

Vad innebär överenskommelsen?

Vita husets överenskommelse om superintelligens beskriver företagens åtaganden kring interna kontroller och säkerhetsgranskning. Företagen ska också samarbeta med oberoende granskare, som ska bedöma om AI-systemen fungerar som utvecklarna avsett. Dokumentet tar även upp skydd mot obehörig åtkomst och hackning. 315

Trump kallade överenskommelsen ”moraliskt bindande” och sade att företagen skulle hålla uppsikt över sig själva. Men den beskrevs som frivillig och inte juridiskt verkställbar. I praktiken handlar det alltså om ett åtagande från branschen, inte en ny federal lag eller förordning. 411

Skillnaden är viktig: dokumentet anger vissa granskningsåtgärder, men avgör inte om externa regler ska kräva dem eller hur de i så fall ska upprätthållas. Det löser inte heller frågan om åtagandena senare ska bli lag. Enligt rapporteringen lämnar överenskommelsen öppet för att vissa åtgärder kan lagfästas längre fram.

Flera frågor är fortfarande obesvarade

Trump lyfte idén om en kommitté med tio personer som skulle övervaka branschen. I den rapportering som finns tillgänglig beskrivs det som ett förslag under övervägande – inte som en tillsynsinstans som faktiskt har inrättats. 210

Källorna ger inte heller stöd för att ett separat branschorgan för självreglering lades ned, eller för hur ett sådant organ skulle ha förhållit sig till den undertecknade överenskommelsen. Och även om rapporteringen kopplar Anthropics deltagande till mötet och debatten om reglering, visar den inte att bolaget skrev under för att förbättra relationen till administrationen inför en börsnotering – eller att en sådan notering var nära förestående. 45

Enighet om texten – inte om statens roll

Mötet mynnade ut i gemensamma formuleringar om säkerhetsåtgärder, men inte i samsyn om vilken roll regeringen ska ha. Amodei vill se regler som kräver oberoende granskning. Trump föredrar frivillig tillsyn från företagen själva. Den grundläggande frågan kvarstår därför: vem ska bestämma kraven på AI-säkerhet – och se till att de följs? 4

Överenskommelsen bör ses som ett frivilligt ramverk för företagens egna åtgärder, inte som ett tecken på att cheferna var överens om riskernas omfattning eller om självreglering räcker.