KI-samtalene mellom Trump og Xi: Krisekanal, ikke bindende regler

Det er stor forskjell på å kunne ringe hverandre når noe går galt, og å bli enige om regler som skal hindre at det skjer. Det første er det best dekning for i omtalen av KI-samtalene rundt møtet mellom Donald Trump og Xi Jinping 24. september. Det andre – bindende krav til sikkerhetstesting, kontroll eller utrulling – er ikke dokumentert i det tilgjengelige materialet.12451

Et forslag om varsling

Før toppmøtet sa USAs finansminister Scott Bessent at han i samtaler med Kinas visestatsminister He Lifeng hadde foreslått en varslingsmekanisme for KI-hendelser. Tanken var en dialog om hendelser så alvorlige at de kunne berøre nasjonal sikkerhet. Reuters og CNN omtalte dette som et amerikansk forslag lederne skulle vurdere, ikke som publiserte regler begge land hadde sluttet seg til.13

En slik kanal kan være nyttig hvis en hendelse ellers kunne bli feiltolket og skjerpe konflikten mellom landene. Men varsling er ikke det samme som et krav om å teste avanserte KI-modeller før bruk, begrense utrulling eller åpne for uavhengig kontroll.

Ulike ord om sikkerhet – ingen dokumenterte felles krav

Trump avviste nye regler for KI og sa at amerikanske håndhevingsmyndigheter, blant dem justisdepartementet, kunne gripe inn ved behov. Før møtet skrev han også at «Super Intelligence» ville bli et viktig tema, men at han ønsket å la det være «akkurat som det er». Det sier noe om hans egen linje, ikke at Kina hadde sluttet seg til den.5022

Xi sa offentlig at USA og Kina har et ansvar for å utvikle og styre KI slik at teknologien forblir under menneskelig kontroll.24 Det er et sikkerhetsprinsipp, men ikke i seg selv en avtale om gjensidig nedbremsing eller bestemte testkrav. Bloomberg rapporterte før møtet at ingen av regjeringene hadde signalisert at de ville bremse KI-utviklingen.51

Samtidig ba OpenAIs Sam Altman og Anthropics Dario Amodei om internasjonalt samarbeid om KI-risiko i FNs sikkerhetsråd. Amodei har også tatt til orde for langsommere utvikling og uavhengig overvåking.1748 Dette viser hvilke forebyggende tiltak som ble etterlyst utenfor toppmøtet – ikke at regjeringene vedtok dem.

Konkurransen fortsatte å prege debatten

I USAs senat presset Chuck Schumer, Elizabeth Warren og andre demokrater på for strengere begrensninger på eksport av avanserte KI-brikker og utstyr til brikkeproduksjon til Kina.3545 Slike tiltak kan begrunnes med sikkerhet, men de begrenser en rivals tilgang til teknologi. De er ikke det samme som at USA og Kina påtar seg felles plikter til å teste eller begrense KI-systemer. KI var dessuten ett av flere temaer i et forhold preget av blant annet handel og andre strategiske stridsspørsmål.34

Hva må til for å kalle det bindende samarbeid?

Da må landene legge frem forpliktelser som angir hvilke systemer og hendelser som omfattes, hvem som skal varsle, og hvor raskt det skal skje. Forebyggende regler ville i tillegg kreve konkrete krav til testing eller utrulling, en måte å kontrollere etterlevelse på og konsekvenser ved brudd. Dokumentasjon på at en varslingskanal faktisk er opprettet og brukt, ville vise praktisk samarbeid – men ikke alene bevise at slike regler finnes.

Omtalen spriker: Asia Times beskriver en kanal som avtalt, mens Reuters’ redegjørelse for Bessents samtaler tydelig omtaler den som et forslag.131 Uten offentliggjorte vilkår og dokumentasjon på gjennomføring er den mest nøkterne konklusjonen derfor håndtering av KI-rivalisering, med en mulig åpning for sikkerhetssamarbeid – ikke en påvist avtale om bindende sikkerhetskrav.