Vad skulle krävas för att bromsa AI på riktigt – och vilken roll kan Singapore spela?

En meningsfull inbromsning av AI skulle styra takten i utvecklingen av de mest avancerade systemen – inte stoppa AI i hela ekonomin. Nya offentliga utspel från ledande AI-företrädare har satt oberoende granskning och samordning på dagordningen. Men trovärdiga skydd kräver mer än frivilliga löften: granskningen måste vara oberoende, resultaten måste kunna påverka lanseringsbeslut och kraven bör stå i proportion till riskerna.

Singapore har flera byggstenar för ett sådant arbete: en styrningsmodell för AI-agenter, testverktyget AI Verify och ett program för att ackreditera oberoende AI-testare. Nästa utmaning är att koppla verktygen till tydliga, evidensbaserade beslut om de system som faktiskt tas i bruk. 4

Vad förslagen om att bromsa AI innebär – och inte innebär

De aktuella förslagen handlar främst om takten i utvecklingen av frontier-AI: de mest kapabla systemen, där utvecklarnas säkerhetsåtgärder och den externa tillsynen riskerar att halka efter när förmågorna snabbt förbättras. Förslag som har lyfts i rapporteringen omfattar löpande tillgång för externa granskare hos företag i framkant, samordnade säkerhetsstandarder och bredare internationellt samarbete.

Förslagen visar att intresset växer, men de utgör inte en färdig politik eller ett bindande avtal mellan AI-företag. I den internationella AI-säkerhetsrapporten beskrivs arbetet med riskhantering fortfarande som under utveckling, och de flesta företagsinitiativ är frivilliga. Skillnaden är viktig: ett företags löfte om att testa en modell är inte i sig en bindande regel som kräver att lanseringen skjuts upp om allvarliga risker kvarstår.

Gör risknivån avgörande för lansering

En praktisk modell skulle ställa hårdare krav på system med större förmåga eller befogenheter, utan att införa ett generellt stopp för vardaglig AI-användning. Ett verktyg som hjälper till att skriva utkast och en AI-agent som får utföra handlingar med stora konsekvenser bör inte automatiskt omfattas av samma krav. Singapores ramverk för AI-agenter rekommenderar redan att organisationer bedömer och begränsar risker samt inför mänskliga godkännandepunkter inför betydande eller känsliga handlingar. 46

För de mest avancerade modellerna och användningsområden med stor påverkan skulle beslutsfattare kunna bygga vidare på den principen med en process inför lansering som omfattar:

• Oberoende granskning före lansering: Ge kvalificerade externa granskare säker tillgång till relevanta system och underlag, så att de kan bedöma farliga förmågor och förutsebar felanvändning. Löpande tillgång för granskare har föreslagits i diskussionen om att styra utvecklingen av frontier-AI, men är inget allmänt gällande krav.
• Tydliga gränsvärden och uppföljning: Klargör vilka resultat som ska utlösa ytterligare skydd, begränsad åtkomst eller uppskjuten lansering. Ett underkänt test bör leda till en dokumenterad åtgärd och, när risken motiverar det, att lanseringen pausas – inte bara till ännu en intern granskning. Det här är förslag på styrning, inte krav som beskrivs i Singapores nuvarande ramverk. 4
• Skydd anpassade till användningen: För agenter med befogenhet att vidta handlingar med betydande konsekvenser kan det behövas begränsad åtkomst, mänskligt godkännande vid viktiga beslut, övervakning och tydligt ansvar. Singapores ramverk stöder riskbegränsning och meningsfull mänsklig tillsyn; de exakta skydden bör anpassas efter systemet och användningen. 48
• Ny bedömning vid större förändringar: Testa systemet på nytt när modellen, dess verktyg eller användningsmiljö förändras väsentligt, i stället för att behandla ett tidigare test som en permanent garanti. Det är ett förslag för att granskningen ska förbli relevant när systemet ändras.

Tillämpningar med lägre risk bör ha en tydligare och enklare väg till användning. Riskbaserade regler kan ge utrymme för företag att införa AI utan att ett godkänt test behandlas som bevis för att systemet är säkert i alla situationer. EU:s AI-förordning är ett exempel på reglering som utgår från riskerna med olika AI-användningar.

Reglerna bör vara offentliga – testningen oberoende

Internationell samordning skulle kunna göra granskningar mer jämförbara och minska incitamenten att söka sig till den minst krävande tillsynen. Regeringar kan arbeta för gemensamma testmetoder, utbyte av information om incidenter och grundläggande krav för system med högst risk. Oberoende granskare kan sedan bedöma systemen mot dessa krav. Även de aktuella förslagen om att bromsa utvecklingen lyfter samarbete mellan företag och över nationsgränser.

Ansvarsfördelningen spelar roll. Offentliga myndigheter bör fastställa bindande gränsvärden och avgöra vad som händer om de överskrids. Företag kan bidra med teknisk kunskap, men bör inte ensamma avgöra om deras egna system klarar kraven. Oberoende testare behöver transparenta metoder och öppet redovisade intressekonflikter. Det här är principer för ett föreslaget tillsynssystem, inte egenskaper som redan ingår i de rapporterade branschförslagen.

Det här kan Singapore bygga vidare på

Singapores modell för styrning av AI-agenter ger organisationer vägledning om bland annat riskbedömning, mänskligt ansvar och kontroller. Den är vägledning för ansvarsfull användning, inte i sig en bindande spärr som avgör om ett system får lanseras. 468

AI Verify erbjuder testverktyg, medan AI Tester Accreditation Programme erkänner tredjepartsföretag med relevant teknisk kompetens och operativ beredskap för AI-testning. Tillsammans skulle initiativen kunna bidra till mer enhetliga bedömningar inom näringsliv och finans. Singapore skulle också kunna främja gemensamma format för säkerhetsbedömningar och avtalsvillkor som tydliggör vad modellleverantörer, systemintegratörer, de som inför AI och testare ska kunna visa. Det är möjliga nästa steg, inte åtgärder som redan har beslutats i de citerade ramverken.

Ett användbart mål vore att länder ömsesidigt erkänner testresultat och metoder – inte att ett nationellt certifikat framställs som en garanti för att alla system är säkra i alla sammanhang. Ramverket och testverktygen kan bidra till mer strukturerade underlag, men myndigheter och organisationer behöver fortfarande bedöma om underlaget täcker den faktiska användningen och dess risker.

Bedöm AI-säkerhet, programvarans tillförlitlighet och cybersäkerhet tillsammans

Att testa en modells svar är bara en del av bedömningen av en AI-agent. En fullständig granskning bör också omfatta programvarusystemet runt modellen och säkerheten hos de verktyg och behörigheter som agenten kan använda. Det handlar om tre närliggande men olika frågor: Vilka skadliga beteenden kan AI:n uppvisa? Hur fungerar den färdiga applikationen när något går fel eller förändras? Och kan en angripare ta kontroll över eller styra om systemet?

Att väga samman dessa områden är ett förslag på hur granskningen kan breddas, inte ett påstående om att alla befintliga verktyg redan täcker dem. AI Verify Toolkit beskriver tekniska tester för traditionella maskininlärningssystem, bland annat avseende rättvisa, förklarbarhet och robusthet. Därför behöver man precisera vilken ytterligare testning från början till slut som krävs för AI-agenter, i stället för att anta att ett resultat på modellnivå certifierar hela systemet.

Så märks en verklig inbromsning

En inbromsning är meningsfull när oberoende underlag kan påverka vad som händer härnäst: en lansering med hög risk kan skjutas upp, begränsas eller korrigeras om skydden inte räcker, samtidigt som användningar med lägre risk får en rimligt avvägd väg till införande. Singapores ramverk och testprogram ger en grund att bygga vidare på, men gränserna för när en lansering tillåts, hur reglerna ska efterlevas och vad granskningarna ska omfatta behöver göras tydliga.