Yakovenkos AI-stikk: Hva «Profitability at $1 trillion mcap» egentlig betyr

Anatoly Yakovenkos korte svar – «Profitability at $1 trillion mcap» – var et skeptisk stikk mot insentivene bak oppfordringer om å bremse den mest avanserte KI-utviklingen. Solana-medgründeren kan ha ment at en sikkerhetsdrevet nedbremsing også kan passe forretningsinteressene til svært høyt verdsatte KI-selskaper som må gjøre kostbar modellutvikling til varig lønnsomhet.

Det er imidlertid en tolkning av kommentaren, ikke bevis for at Anthropic, OpenAI eller andre handlet ut fra et slikt motiv. Yakovenko pekte ikke ut noe selskap, la ikke fram finansielle tall og knyttet heller ikke Solana eller SOL til striden. 3541

Hva Yakovenko kritiserte

«Mcap» er forkortelse for market capitalization – markedsverdi. I denne sammenhengen peker kommentaren mot en velkjent innvending: En felles regel som bremser alle, kan være lettere å leve med for etablerte, kapitalsterke laboratorier i KI-fronten enn for mindre utfordrere.

Yakovenkos videre kritikk ble oppfattet som en hån mot tanken om at en liten krets KI-ledere skal avgjøre hvor raskt hele feltet bør utvikle seg. Innvendingen er at et sikkerhetsrammeverk kan fremstå som samordning til fordel for de etablerte – eller som regulatorisk innfangning – dersom de samme selskapene som kan tjene på begrensningene, er med på å definere dem.

Dette må ikke forveksles med en dokumentert forklaring på Dario Amodeis motiver. Kildematerialet viser at Yakovenko stilte spørsmål ved motivene, men ikke at lønnsomhet, verdsettelse, kostnader til infrastruktur eller planer om børsnotering faktisk lå bak Anthropics forslag. 3543

Dette foreslo Amodei faktisk

I essayet We Must Pace the Frontier, publisert 12. september, argumenterte Anthropics toppsjef Dario Amodei for å redusere tempoet i forbedringen av KI-kapasiteter. Målet er å gi sikkerhetsarbeid, forskning på justering av modeller mot menneskelige mål og ekstern evaluering tid til å holde tritt.

Han understreket at «pacing» ikke betyr å stanse teknisk utvikling eller modelltrening. 7

Planen består av tre trinn:

1. Innebygde tredjepartsevaluatorer. Selskaper som utvikler KI i fronten, skal gi uavhengige evaluatorer løpende tilgang på et nivå som ligner ansattes. De skal kunne undersøke sikkerhetstiltak, vurdere justering under trening og rapportere hendelser. Anthropic sier at selskapet vil gjennomføre dette ensidig. 716
2. Samordning mellom demokratiske land. KI-laboratorier og myndigheter i demokratiske stater skal arbeide mot felles sikkerhetsstandarder og grenser for tempoet. 7
3. Begrensede internasjonale avtaler. Myndigheter skal forsøke å inngå smalere avtaler med andre land, potensielt også Kina og autoritære stater, der kontroll og gjensidige begrensninger er mulig. 78

Skillet er vesentlig: Første trinn er et konkret løfte fra Anthropic. De to neste er forslag som forutsetter samordning mellom bedrifter og myndigheter, og er ikke tiltak som allerede er innført. 9

Hvorfor planen møtte kartellkritikk

Striden handler ikke bare om hvorvidt selskaper bør teste modellene sine grundigere. Den handler om hvem som setter tempoet, hva som skal utløse en forsinkelse, og om samordnede standarder vil stenge ute rivaler.

David Sacks argumenterte for at Anthropic og OpenAI ikke trenger tillatelse til å bremse sin egen utvikling dersom de mener systemene innebærer alvorlig risiko. Hans innvending gjaldt å bruke sikkerhet som begrunnelse for et bredere regulatorisk eller konkurranserettslig rammeverk som også kan binde konkurrentene. Sacks beskrev faren som et etablert «duopol» som bruker regler til å verne sin egen posisjon. 5052

Dette er den sterkeste versjonen av bekymringen bak Yakovenkos kommentar: Frivillige sikkerhetsforpliktelser er én ting; koordinerte begrensninger for en hel bransje kan endre konkurransen, ikke bare sikkerhetspraksisen.

Hva Altman og Musk sa ja til

Sam Altman svarte at OpenAI er enig i behovet for å «pace the frontier». Han kalte uavhengige evaluatorer med tilgang på ansattnivå en «great idea» og sa at OpenAI ville gjøre det samme. Elon Musk var langt kortere: «Dario is right.» 1821

Ingen av svarene avgjorde de vanskeligste spørsmålene om internasjonal samordning, håndhevbare grenser for utviklingstempo eller et felles rammeverk for bransjen. Den tydeligste offentlige støtten gjaldt ideen om innebygde evaluatorer. 1820

De ubesvarte spørsmålene

Et system med innebygd tilsyn blir først reelt når spillereglene er klare. Flere sentrale detaljer var fortsatt uavklart i materialet:

• Uavhengighet: Hvem velger og betaler evaluatorene, og hva gjør dem uavhengige av selskapet de gransker?
• Tilgang: Hvilke systemer, treningsprosesser, hendelsesrapporter, modellvekter, data og interne verktøy kan de undersøke?
• Rett til offentliggjøring: Kan evaluatorene publisere negative funn uten selskapets godkjenning?
• Beslutningsterskler: Hvilke testresultater eller risikonivåer skal kreve utsettelse av trening, lansering eller tilgjengeliggjøring?
• Håndheving: Hvem sørger for at et selskap følger evaluatorenes funn?
• Konkurranse og sikkerhet: Hvordan kan selskapene samordne standarder uten å utveksle kommersielt sensitiv informasjon eller skape konkurranserettslige problemer?
• Internasjonal kontroll: Hva vil gjøre en avtale med Kina eller andre land troverdig og mulig å verifisere?

Disse hullene forklarer hvorfor kritikere ser en fare for vage regler kontrollert av etablerte aktører, mens tilhengere ser et nødvendig forsøk på å gjøre sikkerhetsløfter om til løpende, ekstern kontroll. 1053

Politisk konflikt: lavere tempo eller full pause

Den offentlige uenigheten avdekket også ulike syn på hvor kraftig inngrepet bør være. Senator Bernie Sanders tolket enigheten mellom Amodei, Altman og Musk som støtte for et sterkere tiltak: en pause i KI-utviklingen og et forbud mot superintelligens. 48

Amodeis forslag er smalere enn et totalforbud. Han argumenterer for et avveid tempo som gir tid til justering og kontroll. 7 Sacks mente på sin side at selskaper som er bekymret for risiko, bør bremse frivillig selv – ikke be om en samordnet ordning som gjelder andre. 52

Avveiningen er enkel å formulere, men vanskelig å løse: Å bremse amerikanske KI-laboratorier kan skape bekymring for konkurransekraften mot særlig Kina. Samtidig kan et ubegrenset kappløp gjøre at sikkerhetstesting og tilsyn sakker akterut i forhold til modellenes evner. Amodeis rammeverk forsøker å møte begge hensyn gjennom gradvis tilsyn og mulig internasjonal koordinering, men de mest betydningsfulle delene mangler fortsatt en avtalt mekanisme for håndheving. 74

Kort oppsummert

Yakovenkos formulering var ikke et økonomisk funn, men en provokasjon om insentiver. Han framstilte AI-bremsen som noe som potensielt kan være forenlig med kommersielle interesser hos mektige laboratorier med høye verdsettelser og behov for å dokumentere lønnsomhet. Det forelagte kildematerialet underbygger ikke den påstanden, og dokumenterer heller ikke at ambisjoner om børsnotering var en årsak til forslaget.

Det konkrete er mer begrenset: Anthropic har forpliktet seg til innebygde tredjepartsevaluatorer, OpenAI har offentlig støttet den tilnærmingen, og den bredere planen om koordinerte sikkerhetsbegrensninger er omstridt. Kjernespørsmålet er ikke om KI i fronten bør evalueres grundigere, men om selskapene nærmest fronten bør få være med på å utforme reglene som avgjør hvem som kan konkurrere der. 71850