Singapore ser över hur landets regelverk ska tillämpas när AI-agenter blir mer självständiga. Samtidigt följer regeringen den internationella utvecklingen. Budskapet från Tan Kiat How, Senior Minister of State för digital utveckling och information, är att dagens skydd fortfarande gäller – men kan behöva anpassas eller stärkas.
22
23
24
AI-agenter kan gå från att svara till att agera
En AI-agent kan göra mer än att skapa text eller svara på frågor. Den kan utföra handlingar, koppla upp sig mot externa system och anpassa sitt beteende med mindre mänsklig tillsyn. Det kan öka konsekvenserna av misstag, särskilt när agenten har stor handlingsfrihet.
17
Därför handlar frågan inte bara om vad ett AI-system klarar av, utan också om vilka data och system det får tillgång till, vad det får göra på egen hand och hur människor kan följa och kontrollera dess agerande. Tan har beskrivit en riskbaserad modell där skydden anpassas efter bland annat systemets självständighet, hur känsliga uppgifterna och systemen är samt hur allvarlig en eventuell skada kan bli.
2
3
Befintliga regler gäller medan Singapore gör sin översyn
Tan sade i parlamentet att Singapore undersöker hur de befintliga ramarna kan anpassas eller stärkas i takt med att AI-agenter utvecklas. Det betyder inte att nuvarande krav har satts ur spel.
22
En sammanfattning av parlamentsdebatten uppger att regelverk för cybersäkerhet, skydd av personuppgifter och kritisk informationsinfrastruktur redan omfattar AI-agenter och nu ses över.
35 Även regler för riskhantering och incidentrapportering fortsätter att gälla, enligt rapporteringen.
24
Försök ska ge underlag – inte bevisa att nya krav redan införts
Regeringen genomför försök för att förstå vad som krävs för att införa AI-agenter på ett ansvarsfullt sätt.
23 Den uttalade inriktningen är att skydden ska stå i proportion till risken: större självständighet, känsligare system eller risk för allvarligare skada kan motivera starkare åtgärder.
2
Rapporteringen nämner möjliga skärpta tester, kontroller vid införande och tillsyn för samhällsviktiga tjänster. Samtidigt kräver Singapore i nuläget inte att utvecklare av avancerade AI-modeller lämnar in modellerna för granskning före lansering. Det handlar alltså om att överväga möjliga kontroller – inte om att ett generellt krav på förhandsgranskning redan har införts.
24
Företag bör inte vänta på att någon annan upptäcker intrång
Tans budskap till företag var att de själva måste ta ansvar för säkerheten. ”Vi kan inte bara vänta på att andra ska tala om för oss att de hackar oss”, sade han. Han betonade särskilt ansvaret hos organisationer som driver kritisk informationsinfrastruktur.
31
För organisationer som använder AI-agenter innebär det att AI-styrning behöver ingå i det befintliga arbetet med säkerhet och riskhantering. Ny teknik innebär inte att etablerade skyldigheter försvinner. Vilka skydd som behövs beror på användningen och vilka konsekvenser ett fel kan få; rapporteringen fastställer inte en enda uppsättning obligatoriska åtgärder för alla branscher.
2
24