AI-topchefer til FN: Sikkerhedssamarbejde møder hård konkurrence

FN's Sikkerhedsråd ventes at behandle avanceret kunstig intelligens som et spørgsmål om international sikkerhed: hvordan teknologien kan misbruges af ondsindede aktører, risikoen for at udviklere mister reel kontrol over stadig mere kapable systemer, og behovet for fælles sikkerhedsstandarder og værn på tværs af landegrænser. De konkrete indlæg fra talerne er ikke offentliggjort på forhånd. Frankrig har indkaldt mødet den 23. september under rådets dagsorden om opretholdelse af international fred og sikkerhed. 10

Hvad de fire talere forventes at fremhæve

OpenAI-chef Sam Altman, Anthropic-chef Dario Amodei, AI-forskeren Yoshua Bengio og Hugging Face-chef Clément Delangue ventes at argumentere for international koordinering frem for, at sikkerheden omkring de mest avancerede modeller alene overlades til virksomheder eller enkeltstater.

Det kan omfatte fælles risikovurderinger, deling af viden om farlige egenskaber og hændelser, uafhængig afprøvning samt beskyttelse mod våbenbrug og andet ondsindet misbrug. Mødets erklærede fokus omfatter AI-relaterede risici for den internationale sikkerhed. 10

Når konkurrenter tester hinandens modeller

OpenAI og Anthropic har tidligere oplyst, at de gennemførte en fælles øvelse, hvor hver virksomhed brugte sine interne evalueringer af sikkerhed og fejlretning på den andens offentligt udgivne modeller. Resultaterne blev offentliggjort. 15

Denne form for gensidig kontrol kan afsløre blinde vinkler, som et laboratorium ikke nødvendigvis selv får øje på. Men den skaber også en vanskelig afgrænsning: Konkurrenter skal kunne dele tilstrækkelig adgang og sikkerhedsinformation til, at testen er meningsfuld – uden at udveksle oplysninger, der kan samordne produktplaner, tidspunktet for modeludgivelser, priser eller tempoet i den tekniske udvikling.

Antitrust-sagen sætter grænsen på spidsen

Et foreslået amerikansk gruppesøgsmål fra forbrugere hævder, at Anthropic, OpenAI, SpaceXAI og Google ulovligt aftalte at sænke tempoet i AI-udviklingen. Det er en påstand i en sag – ikke en retslig afgørelse. 1

Sagen illustrerer den grundlæggende spænding. Forkæmpere for AI-sikkerhed kan se koordinerede tærskler for udgivelse eller pauser som ansvarlig risikostyring. Sagsøgerne kan omvendt beskrive samme adfærd som en begrænsning af udbuddet blandt dominerende konkurrenter.

Gensidige evalueringer med et klart, teknisk og offentligt beskrevet sikkerhedsformål er derfor lettere at forsvare end fælles beslutninger om, hvornår eller hvor hurtigt modeller skal forbedres og lanceres.

Klar kontrast til Trumps FN-linje

Diskussionen i Sikkerhedsrådet behandler risici ved de mest avancerede AI-modeller som et kollektivt problem, der kræver internationale sikkerhedsforanstaltninger. Donald Trump lagde i sin tale til FN's Generalforsamling en modsatrettet politisk linje: Han afviste international kontrol med AI, kaldte sikkerhedsadvarsler for et bedrag, fremhævede USA's forspring i AI-kapløbet og sagde, at den føderale regering ville bruge betegnelsen “super intelligence” frem for “artificial intelligence”. 3

Omtalen beskrev også navneskiftet som gældende for den amerikanske regerings officielle kommunikation. 2

Kort sagt søger den Frankrig-ledede dagsorden fælles regler, der kan forhindre et kapløb mod lavere sikkerhedsstandarder. Trumps tilgang fremstiller derimod tilbageholdenhed som en risiko for USA's teknologiske konkurrenceevne.

Det uløste spørgsmål er, hvordan myndigheder kan muliggøre snævert afgrænset og efterprøvbart sikkerhedssamarbejde, uden at det i praksis bliver til koordinering mellem rivaler.