KI trenger mer enn én sikkerhetssjekk, mener Josephine Teo

Når vi går om bord i et fly, stoler vi ikke bare på at flyet er godt bygget. Vi stoler også på vedlikehold, opplæring og regler som virker sammen. Josephine Teo, Singapores minister for digital utvikling og informasjon, mener kunstig intelligens (KI) kan trenge en tilsvarende flerlaget tilnærming dersom teknologien skal brukes stadig mer og fortsatt ha folks tillit. Uttalelsene hennes 17. september 2026 beskriver en mulig retning – ikke et ferdig sikkerhetsregime for KI. 31924

Hva er det som må sikres?

Teo sammenligner flyprodusenter med dem som lager KI-modeller, men understreker at ansvaret ikke stopper der. Systemene må også kunne testes, tas i bruk på en forsvarlig måte og følges opp av mennesker med nødvendig kompetanse. Poenget er at en nyttig modell ikke automatisk er en trygg modell. 1924

Det blir særlig viktig når KI påvirker beslutninger om mennesker. Teo har brukt KI-støttet kredittvurdering som eksempel på hvorfor den som ber om lån, må kunne ha tillit til at systemet ikke slår skjevt ut. Hun har også pekt på risiko for skjevheter og tap av menneskelig kontroll. Singapores testopplegg er oppdatert for å ta høyde for blant annet lekkasje av sensitive opplysninger, oppdiktede svar og skadelig innhold. Omtale av uttalelsene hennes fra september nevner dessuten cyberangrep og biologisk misbruk som bekymringer. Dette er risikoer hun vil håndtere, ikke dokumentasjon på at alle har ført til konkrete hendelser knyttet til forslaget. 25262739

Teo har også omtalt skadelige KI-genererte bilder og plikter for tjenester til å fjerne slikt innhold etter varsel. Kildene viser likevel ikke at én bestemt nylig hendelse utløste sammenligningen med luftfarten. 13

Hva gjør Singapore allerede?

AI Verify er et rammeverk med verktøy for ansvarlig testing og åpenhet. Teo har også kunngjort en ordning for akkreditering av uavhengige KI-testere, slik at virksomheter lettere kan vurdere hvem de skal bruke til å kontrollere systemene sine. 827

En internasjonal pilot for kvalitetssikring av KI har undersøkt hvordan påliteligheten til generative KI-tjenester kan testes. Erfaringene bidro til en samling praktiske testmetoder fra Singapores myndighet for digital utvikling og medier, IMDA. Landet har dessuten utgitt veiledning for handlende KI: systemer som kan utføre oppgaver mer selvstendig, men fortsatt skal være under menneskelig oppsyn. 299

KI-tjenester brukes på tvers av landegrenser. Derfor ønsker Singapore evalueringsmetoder som bygger på dokumentasjon og kan fungere under ulike lands regler. Teo har samtidig sagt at internasjonalt anerkjente standarder vil ta tid å utvikle. Luftfartssammenligningen er dermed en ambisjon om å bygge sikkerhet mens KI tas i bruk – ikke en påstand om at dagens tester og veiledning gir samme trygghet som et veletablert regelverk. 6730