Så kan globala AI-säkerhetsregler bli möjliga att granska

Ett internationellt regelverk för AI-säkerhet behöver besvara en enkel fråga: Vem kan kontrollera att skydden faktiskt fungerar? Företagens egna försäkringar räcker inte. Det behövs krav som går att pröva oberoende, myndigheter som kan agera när underlaget brister och uppföljning även efter att ett system har tagits i bruk.

Singapores minister Josephine Teo har jämfört AI med civilflyget. Där har flera lager av säkerhetsåtgärder bidragit till att människor vågar använda tekniken regelbundet. Hennes poäng är att skydd för AI behöver byggas samtidigt som användningen växer. 36

Flygets lärdom: bygg steg för steg

Internationella flygregler uppstod inte på en gång. Nationella lagar och bilaterala avtal följdes av Pariskonventionen 1919 och Chicagokonventionen 1944. Den internationella civila luftfartsorganisationen ICAO trädde i funktion 1947. 313935 För AI är lärdomen inte att kopiera flygets regelbok, utan att börja med överenskommelser som går att använda och skärpa dem när gemensamma arbetssätt växer fram.

En möjlig ansvarsfördelning är att ett internationellt organ tar fram minimikrav, godkänner oberoende granskare och sammanställer uppgifter om incidenter. Nationella tillsynsmyndigheter måste samtidigt kunna inspektera verksamheter, kräva ändringar, begränsa användningen av system och besluta om sanktioner. Ett internationellt intyg får inte ersätta möjligheten att ingripa i det land där ett system används.

Säkerhetskraven måste också följa hela systemets livscykel: tester före driftsättning, övervakning under användning och ny bedömning efter större ändringar. Det ska finnas planer för att återgå till en tidigare version eller ta ett system ur bruk. Ett godkännande bör gälla en bestämd version i ett bestämt användningssammanhang – inte alla framtida användningar.

Från säkerhetslöften till kontrollerbara belägg

En märkning eller en hög poäng på ett standardtest säger inte allt. En oberoende, godkänd granskare behöver säker tillgång till den relevanta modellen, dess inställningar vid användning, dokumentation och uppgifter om betydande fel. Metoder och resultat bör dokumenteras så att andra kvalificerade granskare kan ifrågasätta dem. Samtidigt måste personuppgifter, företagshemligheter och säkerhetskänslig information skyddas.

För system med hög risk kan utvecklaren behöva lägga fram ett dokumenterat säkerhetsunderlag: vad systemet är tänkt att göra, vilka tester som genomförts, vilka skydd som visats fungera, vilka risker som återstår och hur incidenter ska hanteras. Om beläggen inte räcker ska tillsynsmyndigheten kunna kräva förbättringar eller begränsa användningen. Målet är kontrollerbar efterlevnad av tydliga krav, inte ett löfte om att skada aldrig kan inträffa.

Även finansieringen påverkar oberoendet. Stora utvecklare skulle exempelvis kunna betala till en gemensam eller myndighetsadministrerad testfond i stället för att själva välja och styra dem som granskar dem. Oberoende utredningar av allvarliga fel och tillbud bör hjälpa andra att förebygga upprepningar. Skyddad rapportering kan uppmuntra öppenhet, men får inte bli en ursäkt för att dölja fel eller missförhållanden.

Singapore kan bidra – men förtroende måste förtjänas

Teo har argumenterat för skyddsåtgärder parallellt med AI-användningen. Rapporteringen pekar också ut Singapores testverktyg AI Verify och landets institut för AI-säkerhet som delar av arbetet med att pröva och kvalitetssäkra system. 13 Singapore skulle kunna vara värd för gemensamma utvärderingar eller konfidentiella tekniska samtal inom ett bredare nätverk av godkända testmiljöer.

Att vara värd för en sådan verksamhet innebär däremot inte automatiskt att både USA och Kina litar på den. Det skulle kräva öppna regler för styrning, säker åtkomst, oberoende möjligheter att överklaga och ett faktiskt deltagande från båda länderna. Ett nätverk med flera testmiljöer skulle dessutom minska beroendet av en enda knutpunkt.

Börja där intressena kan mötas

Synen på AI-utvecklingens tempo går isär. Enligt Reuters har Dario Amodei, Sam Altman och Elon Musk efterlyst en samordnad inbromsning. Mark Zuckerberg har förespråkat mer marknadsdrivna skyddsåtgärder, medan Jensen Huang har avfärdat behovet av ny reglering. 4748 Kina har avvisat uppmaningar att bromsa utvecklingen. Inför sitt toppmöte med Xi Jinping den 24 september sade USA:s president Donald Trump att han inte väntade sig några framsteg om skyddsräcken för AI; rapporteringen om mötet beskrev förväntningarna på större genombrott som låga. 585049

Länderna behöver inte enas om en allmän inbromsning för att minska risker som ingen av dem vill ta. Amerikanska och kinesiska säkerhetsexperter har föreslagit gränser kring kärnvapensystem, mänsklig kontroll över cyberangrepp med stora konsekvenser och en direktkontakt för incidenter med autonom AI. 20 Sådana förslag kan ge en början för nödkontakter, underrättelser om allvarliga incidenter och ömsesidiga tekniska samtal. USA:s och Kinas deltagande är viktigt, men fler länder behöver inflytande över standarderna och tillgång till testkapacitet.

Avtal om vapenkontroll visar värdet av avgränsade, ömsesidiga åtaganden som går att verifiera. Tillsyn över finanssektorn ger en annan princip: lägg de tyngsta kraven där ett misslyckande kan få störst följder. Utvecklare och användare av högrisksystem skulle kunna möta krav på oberoende bedömning, ledningsansvar, återhämtningsplaner och snabb rapportering av allvarliga säkerhetsfel, betydande dataläckor, intrång och modellstölder. Mindre företag med lågrisktjänster bör kunna använda gemensam testinfrastruktur och enklare dokumentation. Ett farligt system blir dock inte ofarligt bara för att företaget bakom det är litet.

Ett internationellt avtal och en permanent institution senast 2030 vore ett ambitiöst politiskt mål, inte en säker prognos. Ett närmare mått på framsteg är om länder kan enas om vad som räknas som en allvarlig incident, hur testares oberoende ska säkras och vilka skydd som ska gälla ömsesidigt – och om myndigheter kan agera när bevisen inte håller.