AI-sikkerhet til Sikkerhetsrådet: Samarbeid eller konkurransehemmende koordinering?

FNs sikkerhetsråd ventes å behandle avansert kunstig intelligens som et spørsmål om internasjonal sikkerhet: misbruk fra ondsinnede aktører, faren for at utviklere mister reell kontroll over stadig mer kapable systemer, og behovet for felles standarder og sikkerhetstiltak på tvers av landegrenser. De konkrete innleggene er ikke offentlig kjent på forhånd, men Frankrike har innkalt møtet 23. september under Sikkerhetsrådets sak om «opprettholdelse av internasjonal fred og sikkerhet». 10

Felles standarder framfor nasjonale sololøp

Sam Altman i OpenAI, Dario Amodei i Anthropic, KI-forskeren Yoshua Bengio og Hugging Face-sjef Clément Delangue ventes å løfte fram behovet for internasjonal koordinering, framfor at sikkerheten for de mest avanserte modellene overlates til hvert enkelt selskap eller land.

Det kan innebære felles risikovurderinger, deling av informasjon om farlige evner og hendelser, uavhengig testing og tiltak mot våpenbruk eller annen ondsinnet bruk. Møtets uttalte tema omfatter KI-relaterte trusler mot internasjonal sikkerhet. 10

Når konkurrenter tester hverandre

OpenAI og Anthropic har allerede gjennomført et felles pilotprosjekt der selskapene brukte egne sikkerhets- og feiljusteringstester på hverandres offentlig tilgjengelige modeller og publiserte resultatene. Hensikten var å avdekke blindsoner som et laboratorium lettere kan overse i sine egne systemer. 15

Slik gjensidig kontroll er likevel krevende. Konkurrentene må gi hverandre nok tilgang og sikkerhetsinformasjon til at testene blir meningsfulle, uten at samarbeidet glir over i utveksling av opplysninger om produktplaner, lanseringstidspunkter, priser eller tempoet i den teknologiske utviklingen.

Sikkerhetssamarbeid under konkurranserettslig press

Et foreslått amerikansk gruppesøksmål på vegne av forbrukere hevder at Anthropic, OpenAI, SpaceXAI og Google ulovlig ble enige om å senke tempoet i KI-utviklingen. Det er en påstand fra saksøkerne, ikke en rettslig avgjørelse. 1

Saken synliggjør en grunnleggende konflikt: Tilhengere av KI-sikkerhet kan se samordnede terskler for lansering eller pauser som forsvarlig risikostyring. Saksøkere kan på sin side framstille samme praksis som en begrensning av produksjon eller innovasjon blant dominerende konkurrenter.

Avgrensede kryssvurderinger, basert på åpne og tekniske sikkerhetstester, er derfor enklere å forsvare enn felles avgjørelser om når eller hvor raskt modellene skal forbedres og lanseres.

Kontrasten til Trumps linje i FN

Diskusjonen i Sikkerhetsrådet bygger på at risikoen ved avansert KI er et kollektivt handlingsproblem som trenger internasjonale garantier. Donald Trump inntok en klart annerledes politisk posisjon i sin tale til FNs generalforsamling: Han avviste internasjonal KI-kontroll, omtalte sikkerhetsadvarsler som en bløff, la vekt på USAs forsprang i KI-kappløpet og sa at den føderale staten ville bruke uttrykket «superintelligens» i stedet for «kunstig intelligens». 3

Rapporteringen beskrev også navneendringen som noe som skulle gjelde offisiell kommunikasjon fra amerikanske myndigheter. 2

Kort sagt søker den franskledede dagsordenen felles spilleregler for å hindre et kappløp mot svakere sikkerhet. Trumps tilnærming framstiller derimot tilbakeholdenhet som en trussel mot USAs teknologiske konkurransekraft. Den uløste utfordringen er å legge til rette for målrettet og etterprøvbart sikkerhetssamarbeid – uten at det blir en de facto-koordinering mellom rivaler.