Yakovenkos pik om AI-bromsen: ”Lönsamhet vid 1 biljon dollar i börsvärde”

Anatoly Yakovenkos korta svar – ”Profitability at $1 trillion mcap” – var främst en skeptisk pik mot incitamenten bakom kraven på att bromsa utvecklingen av den mest avancerade AI:n. Mcap är en förkortning för marknadsvärde. Hans antydan var att ett säkerhetsdrivet långsammare tempo också skulle kunna passa mycket högt värderade AI-bolag som behöver göra dyr modellutveckling till långsiktigt lönsam verksamhet.

Det är dock en tolkning av kommentaren, inte bevis för att Anthropic, OpenAI eller något annat bolag drevs av det motivet. Yakovenko pekade inte ut något företag, lade inte fram några finansiella data och kopplade inte Solana eller kryptovalutan SOL till konflikten. 3541

Vad kritiken egentligen gällde

Yakovenkos invändning kan läsas som en variant av en vanlig oro kring branschgemensamma begränsningar: regler som bromsar alla kan vara lättare för etablerade, välfinansierade AI-laboratorier att hantera än för mindre utmanare.

Hans kritik riktade sig därmed mot utsikten att en liten grupp AI-ledare skulle sätta takten för hela teknikområdet. Ett säkerhetsramverk kan uppfattas som samordning som gynnar etablerade aktörer – eller som så kallad regulatorisk fångst – om just de företag som tjänar på begränsningarna också hjälper till att utforma dem.

Detta är inte samma sak som en belagd förklaring till Anthropics vd Dario Amodeis avsikter. Materialet visar att Yakovenko ifrågasatte motiven, men inte att lönsamhetskrav, värderingar, kostnader för datorkraft eller eventuella börsplaner låg bakom Anthropics förslag. 3543

Amodeis plan: att ”hålla jämn takt med fronten”

I essän We Must Pace the Frontier, publicerad den 12 september, argumenterade Amodei för att takten i AI-systemens kapacitetsutveckling bör sänkas så att säkerhetsarbete, alignment – arbetet med att få systemen att agera i linje med mänskliga avsikter – och extern granskning hinner med. Han betonade uttryckligen att det inte innebär att stoppa teknisk utveckling eller modellträning. 7

Planen består av tre steg:

1. Inbäddade externa utvärderare. Ledande AI-laboratorier ska ge oberoende granskare löpande tillgång på ungefär samma nivå som anställda, så att de kan kontrollera skyddsåtgärder, bedöma alignment under träning och rapportera incidenter. Anthropic uppgav att bolaget skulle göra detta ensidigt. 716
2. Samordning mellan demokratiska länder. AI-laboratorier och regeringar i demokratiska stater ska arbeta mot gemensamma säkerhetsstandarder och begränsningar av utvecklingstakten. 7
3. Begränsade internationella överenskommelser. Regeringar ska söka mer avgränsade avtal med andra stater, potentiellt även Kina och auktoritära regeringar, där ömsesidig återhållsamhet kan kontrolleras och verifieras. 78

Skillnaden mellan stegen är viktig. Det första är ett konkret åtagande från Anthropic, medan de två senare förutsätter samordning mellan företag och regeringar och därför ännu är förslag. 9

Varför kritiker talar om kartellrisk

Den kontroversiella frågan är inte bara om AI-bolag bör testa sina modeller mer noggrant. Den handlar också om vem som sätter tempot, vilka resultat som ska utlösa en försening och om samordnade regler kan stänga ute konkurrenter.

David Sacks argumenterade för att Anthropic och OpenAI inte behöver tillstånd för att sakta ned sin egen utveckling om de anser att systemen innebär allvarliga risker. Hans invändning gällde att använda säkerhetsskäl för att få fram ett bredare regelverk – eller konkurrensrättsliga undantag – som även skulle binda rivaler. Sacks beskrev risken som att ett etablerat ”duopol” skyddar sin marknadsposition med regler. 5052

Det är den starkaste formen av oron bakom Yakovenkos formulering: frivilliga säkerhetsåtaganden är en sak, men samordnade begränsningar för en hel bransch kan påverka konkurrensen lika mycket som säkerhetsarbetet.

Altman och Musk gav stöd – men främst till en del av planen

OpenAI-chefen Sam Altman skrev att han höll med om behovet av att hålla jämn takt med AI-fronten. Han kallade oberoende utvärderare med anställdliknande tillgång för ”en bra idé” och sade att OpenAI skulle göra detsamma. Elon Musk svarade kort: ”Dario har rätt.” 1821

Ingen av reaktionerna löste däremot de svårare frågorna om internationell samordning, verkställbara gränser för utvecklingstakten eller ett gemensamt branschramverk. Deras tydligaste stöd gällde modellen med inbäddade externa utvärderare. 1820

De avgörande detaljerna saknas fortfarande

Extern tillsyn får verklig betydelse först när spelreglerna är tydliga. Flera viktiga frågor är fortfarande obesvarade i det tillgängliga underlaget:

• Oberoende: Vem väljer och finansierar utvärderarna, och vad gör dem oberoende av laboratoriet de granskar?
• Tillgång: Vilka system, träningsprocesser, incidentrapporter, modellvikter, data och interna verktyg får de granska?
• Rätt att publicera: Kan utvärderarna offentliggöra allvarliga resultat utan bolagets godkännande?
• Tröskelvärden: Vilket testresultat eller vilken risknivå ska leda till uppskjuten träning, lansering eller driftsättning?
• Efterlevnad: Vem ser till att ett bolag faktiskt följer granskarnas slutsatser?
• Konkurrens och säkerhet: Hur samordnar företag säkerhetsstandarder utan att utbyta affärskänslig information eller skapa konkurrensrättsliga problem?
• Internationell kontroll: Vad skulle göra ett avtal med Kina eller andra regeringar både trovärdigt och möjligt att verifiera?

Luckorna förklarar varför kritiker ser en risk för vaga regler under etablerade aktörers kontroll, medan förespråkare ser ett försök att ersätta lösa säkerhetslöften med fortlöpande extern granskning. 1053

En långsammare takt – eller en faktisk paus?

Debatten visar också olika syn på hur långt säkerhetsåtgärderna bör gå. Senator Bernie Sanders tolkade samsynen mellan Amodei, Altman och Musk som stöd för betydligt hårdare ingrepp: en AI-paus och ett förbud mot superintelligens. 48

Amodeis förslag var snävare än ett förbud. Det efterlyste en balanserad utvecklingstakt som ger tid för alignment och verifiering. 7 Sacks stod för motsatt linje: bolag som ser allvarliga risker bör frivilligt dra ned på sin egen utveckling, snarare än att försöka skapa ett samordnat ramverk för andra. 52

Avvägningen är enkel att formulera men svår att lösa. Om USA:s ledande AI-laboratorier bromsar kan det väcka oro för konkurrenskraften gentemot Kina. Men en ohejdad kapplöpning kan samtidigt göra att säkerhetsutvärdering och tillsyn hamnar efter kapacitetsökningarna. Amodeis modell försöker möta båda problemen genom stegvis tillsyn och senare internationell samordning, men dess mest avgörande delar saknar fortfarande en överenskommen mekanism för efterlevnad. 74

Slutsats

Yakovenkos kommentar var inte en finansiell analys, utan en provokation om incitament. Den framställde AI-bromsen som något som möjligen kan gå hand i hand med mäktiga laboratoriers kommersiella intressen: att försvara mycket höga värderingar och så småningom visa lönsamhet.

Det tillgängliga underlaget styrker inte den anklagelsen och visar inte heller att eventuella börsambitioner var orsaken till förslaget. Det som är konkret är mer begränsat: Anthropic har åtagit sig att ge externa utvärderare löpande tillgång, OpenAI har offentligt ställt sig bakom den idén och den bredare planen för samordnade säkerhetsbegränsningar är fortfarande omstridd. Kärnfrågan är inte om avancerad AI bör granskas hårdare, utan om företagen närmast teknikfronten också ska få vara med och sätta reglerna som avgör vem som får konkurrera där. 71850