Singapore vurderer om landets regelverk bør tilpasses eller styrkes etter hvert som AI-agenter blir mer selvstendige. Samtidig følger myndighetene utviklingen internasjonalt. Eksisterende sikkerhetskrav gjelder fortsatt, understreket Senior Minister of State Tan Kiat How overfor parlamentet.
17
22
Når AI går fra å svare til å handle
En vanlig chatbot lager først og fremst svar. En AI-agent kan også utføre handlinger, koble seg til eksterne systemer og tilpasse atferden sin med mindre menneskelig oppfølging. Det kan gjøre konsekvensene av feil større.
17
Derfor handler spørsmålet ikke bare om hva en AI-agent kan gjøre, men også om hvilke data og systemer den får tilgang til, hva den kan gjøre uten godkjenning, og hvordan handlingene kan følges opp. Singapore legger opp til at sikkerhetstiltakene skal stå i forhold til risikoen. Viktige hensyn er hvor selvstendig systemet er, hvor følsomme dataene og systemene er, og hvor alvorlig en mulig skade kan bli.
2
3
Dagens regler gjelder mens myndighetene vurderer veien videre
Singapore gjennomgår hvordan eksisterende rammeverk kan tilpasses eller styrkes, men har ikke satt dem til side. Rammer for cybersikkerhet, personvern og kritisk digital infrastruktur gjelder allerede for AI-agenter og er under vurdering.
22
35 Også eksisterende krav til risikohåndtering og rapportering av hendelser gjelder fortsatt.
24
Myndighetene gjennomfører forsøk for å lære mer om hvordan AI-agenter kan innføres på en ansvarlig måte.
23 I enkelte bruksområder med høyere risiko kan det bli aktuelt med strengere testing, kontroll av utrulling og oppfølging – særlig der viktige tjenester står på spill.
24
Det betyr ikke at Singapore har innført et generelt krav om at utviklere må gi myndighetene tilgang til avanserte AI-modeller før lansering. Landet krever ikke dette i dag, ifølge rapporteringen.
24
Bedrifter må selv følge med på sikkerheten
Tan advarte virksomheter mot å vente på at andre skal varsle dem om et angrep. «Vi kan ikke bare vente på at andre forteller oss at de hacker oss», sa han, og understreket at Singapore og organisasjonene der – særlig de som driver kritisk informasjonsinfrastruktur – må sørge for nødvendige sikkerhetstiltak.
31
For virksomheter som tar i bruk AI-agenter, er hovedpoenget at ny teknologi ikke fjerner eksisterende ansvar for sikkerhet og risikohåndtering. Hvilke tiltak som trengs, vil avhenge av hva agenten brukes til og hvilke konsekvenser den kan få. Kildene beskriver ikke ett felles sett med obligatoriske krav for alle bransjer.
2
24