Slik kan KI-sikkerhet kontrolleres på tvers av landegrenser

Et sikkerhetsstempel er lite verdt hvis ingen utenfor selskapet kan undersøke hvordan det ble gitt – eller gripe inn når et KI-system svikter. Skal land kunne stole på hverandres sikkerhetstiltak, må påstandene kunne etterprøves. Det krever felles minstekrav, uavhengige tester og nasjonale tilsyn som kan kreve endringer, begrense bruk og ilegge reaksjoner.

Singapores minister Josephine Teo har sammenlignet behovet med sikkerhetsarbeidet i luftfarten: Flere lag med tiltak gjør at folk kan ha tillit til teknologien i daglig bruk. Hun mener KI trenger en tilsvarende tilnærming etter hvert som bruken øker. 36

Luftfarten viser hvorfor samarbeid kan bygges trinnvis

Internasjonale luftfartsregler kom ikke på plass i ett grep. Først fantes nasjonale lover og avtaler mellom land. Pariskonvensjonen i 1919 innførte tidlige internasjonale regler, mens Chicagokonvensjonen i 1944 la grunnlaget for en ny ordning. Den internasjonale organisasjonen for sivil luftfart, ICAO, trådte i funksjon i 1947. 313935

Poenget er ikke at KI kan få en kopi av luftfartens regelverk. Lærdommen er at land kan begynne med avtaler de faktisk kan gjennomføre, og bygge videre når de får erfaring med felles praksis.

I en mulig KI-ordning kan et internasjonalt organ utforme minstekrav, godkjenne uavhengige testmiljøer og sammenligne opplysninger om alvorlige hendelser. Nasjonale myndigheter må samtidig kunne inspisere, kreve utbedringer, begrense bruken av systemer og ilegge sanksjoner. En internasjonal godkjenning må ikke erstatte håndheving i landet der systemet brukes.

Sikkerhet må dessuten følges opp gjennom hele systemets levetid. Tester før bruk bør etterfølges av overvåking i drift, nye vurderinger ved vesentlige endringer og planer for å trekke tilbake eller avvikle systemet. En godkjenning bør gjelde en bestemt versjon og en bestemt brukssituasjon – ikke all fremtidig bruk av samme modell.

Fra sikkerhetsløfter til dokumentasjon andre kan kontrollere

En offentlig testscore eller et merke er ikke nok til å vise at et system er trygt. Et uavhengig, godkjent testmiljø må få sikker tilgang til modellen slik den faktisk skal brukes, relevant dokumentasjon og opplysninger om vesentlige feil. Metoder og funn må dokumenteres slik at andre kvalifiserte miljøer kan utfordre dem. Samtidig trengs tilgangskontroll som beskytter personopplysninger, forretningshemmeligheter og sikkerhetssensitiv informasjon.

For systemer med høy risiko kan utvikleren pålegges å legge frem en begrunnet sikkerhetsvurdering: Hva kan systemet gjøre? Hvordan er det testet? Hvilke sikkerhetstiltak er dokumentert, hvilke farer gjenstår, og hvordan skal hendelser håndteres? Hvis dokumentasjonen ikke holder, må tilsynet kunne kreve forbedringer eller begrense bruken. Målet er å kunne kontrollere om definerte krav er oppfylt – ikke å love at skade aldri kan skje.

Også finansieringen må verne om uavhengigheten. Store utviklere kan betale inn til en felles eller myndighetsstyrt ordning for testing, i stedet for selv å velge og styre dem som skal vurdere dem. Uavhengige undersøkelser av alvorlige feil og nestenulykker bør først og fremst bidra til læring og forebygging. Vern for dem som melder fra, må likevel ikke bli et frikort for fortielse eller andre regelbrudd.

Singapore kan bidra, men tillit kan ikke tildeles på forhånd

Teo har tatt til orde for å bygge sikkerhetstiltak samtidig som KI tas i bruk. Omtale av Singapores arbeid peker på testverktøyet AI Verify og landets institutt for KI-sikkerhet som utgangspunkt for videre testing og kontroll. 13 Singapore kan være vertskap for felles tester eller fortrolige tekniske samtaler som del av et større nettverk av godkjente testmiljøer.

Det ville likevel ikke automatisk gjøre et testmiljø troverdig for både USA og Kina. Det ville kreve åpenhet om styringen, klare regler for sikker tilgang, uavhengig klagebehandling og faktisk deltakelse fra begge land. Et nettverk fordelt på flere steder ville dessuten gjøre ordningen mindre avhengig av ett enkelt knutepunkt.

Begynn med risiko landene kan enes om

Det er stor uenighet om tempoet i KI-utviklingen. Ifølge Reuters har Dario Amodei, Sam Altman og Elon Musk tatt til orde for en koordinert nedbremsing. Mark Zuckerberg har foretrukket sikkerhetstiltak drevet av markedet, mens Jensen Huang har avvist behovet for ny regulering. 4748 Kina har avvist oppfordringer om å bremse utviklingen. President Donald Trump sa at han ikke ventet fremskritt om sikkerhetsrammer for KI under toppmøtet med Xi Jinping 24. september. 5850 Omtalen av møtet beskrev også lave forventninger til et større gjennombrudd. 49

Land trenger ikke bli enige om en generell nedbremsing før de tar tak i hendelser ingen ønsker. Ifølge omtale av forslag fra amerikanske og kinesiske sikkerhetseksperter kan mulige første temaer være grenser for KI-systemers innblanding i atomvåpensystemer, menneskelig kontroll over alvorlige cyberangrep og en direkte kontaktlinje ved hendelser som involverer autonom KI. 20 Derfra kan land arbeide med nødprosedyrer, varsling av alvorlige hendelser og gjensidige tekniske samtaler. USA og Kina må være med, men andre land må også få innflytelse på standardene og tilgang til testkapasitet.

Hent prinsipper fra våpenkontroll og finanstilsyn

Våpenkontroll gir ett nyttig prinsipp: Forhandle om gjensidige forpliktelser som er avgrensede nok til at etterlevelsen kan kontrolleres. En fremtidig KI-avtale kan opprette et fast organ for samordning og gjennomgang, mens tekniske testmetoder oppdateres etter hvert. Verken atomavtaler eller ICAO er en ferdig oppskrift for KI.

Finanstilsyn gir et annet prinsipp: Legg de strengeste pliktene der konsekvensene av svikt kan bli størst. Utviklere og virksomheter som tar i bruk systemer med høy risiko, kan pålegges uavhengige vurderinger, tydelig lederansvar, planer for å gjenopprette kontroll og rask varsling om alvorlige sikkerhetssvikt, vesentlige datalekkasjer, hacking eller tyveri av modeller. Mindre virksomheter med tjenester som innebærer lav risiko, kan få enklere dokumentasjonskrav og tilgang til felles testinfrastruktur. Men et farlig system bør ikke få unntak bare fordi virksomheten bak er liten.

En traktat og en fast internasjonal institusjon innen 2030 kan være et ambisiøst politisk mål, ikke en sikker spådom. Et mer troverdig første mål er at land blir enige om hva som skal regnes som en alvorlig hendelse, hvordan testeres uavhengighet sikres, og hvilke gjensidige tiltak som kan kontrolleres. Den avgjørende prøven kommer når dokumentasjonen ikke holder: Kan myndighetene da faktisk gripe inn?