Singapore sertifiserer AI-testfirmaer: Slik fungerer den nye akkrediteringsordningen AI TAP

Initiativet blir omtalt som Asias første akkrediteringsprogram spesifikt for AI-testorganisasjoner, og er ment å sette en standard for AI-forsikringstjenester.

Hvem som lanserer AI TAP og når det starter

AI TAP lanseres av AI Verify Foundation, en ideell organisasjon etablert for å fremme pålitelig AI-testing og standardutvikling. Stiftelsen er et datterselskap av Singapores Infocomm Media Development Authority (IMDA).

Singapores minister for digital utvikling og informasjon, Josephine Teo, annonserte programmet under en internasjonal AI-sikkerhetshendelse i mai 2026.

Sentrale detaljer om lanseringen:

• Lanserende organisasjon: AI Verify Foundation
• Forventet lansering: andre halvår 2026
• Akkrediteringssøknader: forventes å åpne rundt tredje kvartal 2026

Hvorfor Singapore opprettet AI TAP

Hovedmålet med AI TAP er å øke tilliten til AI-sikkerhetstesting.

Når organisasjoner tar i bruk AI-systemer, bruker de ofte spesialiserte firmaer til å undersøke modeller for svakheter – ofte gjennom såkalt red-teaming eller forsøk på å omgå sikkerhetsmekanismer. Men kvaliteten og troverdigheten til disse testleverandørene kan variere mye.

AI TAP skal løse dette ved å skape en formell akkrediteringsstandard for selskaper som tilbyr AI-testing.

Programmet er også en del av Singapores bredere satsing på å bygge et pålitelig AI-økosystem som balanserer teknologisk innovasjon med sikkerhet og ansvarlighet.

Flere relaterte initiativer støtter dette økosystemet:

• AI Verify-testrammeverket, som hjelper selskaper med å vurdere om AI-systemene deres følger internasjonalt anerkjente styringsprinsipper.
• Global AI Assurance Pilot og Sandbox, som kobler selskaper som tar i bruk AI med spesialiserte testfirmaer for å utvikle praktiske testmetoder.

Sammen har disse programmene som mål å etablere felles normer for ansvarlig AI-bruk.

Slik vil AI TAP sertifisere AI-testfirmaer

Selskaper som søker AI TAP-akkreditering må gjennom to hovedkategorier av evaluering.

Vurdering av teknisk kapasitet

Testorganisasjoner må vise at deres evalueringsmetoder følger anerkjente retningslinjer for AI-testing. Dette inkluderer å vise at tjenestene deres er i tråd med veiledning som dekker:

• Sikkerhet for store språkmodellapplikasjoner (LLM-er)
• Pålitelighets- og robusthetstesting
• Sårbarhets- og utnyttelsestesting

Søkere må også demonstrere strukturerte testmetodikker og egnede datasett for evaluering av AI-systemer.

Organisatorisk og operasjonell evaluering

Utover teknisk ekspertise vil AI TAP også vurdere selskapet selv. Akkrediteringsgjennomgangen kan undersøke faktorer som:

• Forretningsomdømme og resultathistorikk
• Operasjonell kapasitet og personellkompetanse
• Finansiell stabilitet
• Om de annonserte tjenestene samsvarer med organisasjonens faktiske evner

Denne to-lags gjennomgangen er utformet for å sikre at akkrediterte testere er både teknisk kompetente og operasjonelt pålitelige.

Typer AI-risiko testere forventes å undersøke

Selv om AI TAP ikke har publisert en universell sjekkliste, viser eksisterende AI-forsikringsarbeid i Singapore flere risikoområder som ofte undersøkes i AI-systemer.

Disse inkluderer:

• Sikkerhetssårbarheter og utnyttelsesmuligheter, inkludert forsøk på å omgå sikkerhetsmekanismer eller hente ut begrenset informasjon
• Svikt i innholdssikkerhet, som å generere skadelige eller upassende utdata
• Datalekkasjerisiko, spesielt i retrival-augmented generation (RAG)-systemer koblet til interne kunnskapsbaser
• Flerspråklige sikkerhetshull, der sperrer som fungerer på ett språk kan svikte på et annet
• Nøyaktighets- og robusthetsproblemer, inkludert hallusinerte eller inkonsekvente svar

Testøvelser i Singapores AI-forsikringsinitiativer har vist at sperrer kan oppføre seg forskjellig på tvers av språk, og at enkelte systemdesign kan øke risikoen for sensitiv informasjonslekkasje.

Testmetoder brukt i AI-forsikring

AI-testorganisasjoner kombinerer vanligvis automatisert evaluering med manuell analyse. Eksempler på metoder brukt i Singapore-tilknyttede AI-forsikringsprosjekter inkluderer:

• Adversarial prompting og red-teaming for å undersøke jailbreak-sårbarheter
• Syntetisk datasettgenerering for å skape kanttilfeller og sjeldne feilscenarioer
• Nøyaktighetsbenchmarking, inkludert klassifiseringsnøyaktighet og søkepresisjon
• Human-in-the-loop-gjennomgang, der eksperter evaluerer systemsvar
• LLM-as-judge-tilnærminger, der AI-modeller hjelper til med å skalere evaluering av utdata

Disse tilnærmingene gjør det mulig for testere å evaluere både ytelsen til AI-systemer og robustheten til sikkerhetsmekanismene deres.

Hvordan AI TAP kan påvirke det globale AI-sikkerhetsøkosystemet

Å akkreditere testerne selv adresserer et voksende problem i AI-styring: å sikre at AI-sikkerhetsevalueringer er troverdige og konsistente.

Potensielle effekter av programmet inkluderer:

• Økt tillit når organisasjoner engasjerer eksterne firmaer til å evaluere AI-systemer
• Tydeligere forventninger til hva som utgjør kompetent AI-sikkerhetstesting
• Bedre sammenlignbarhet av testresultater på tvers av bransjer og jurisdiksjoner
• Sterkere samarbeid mellom AI-utviklere og spesialiserte sikkerhetsrevisorer

Fordi AI TAP er posisjonert som den første akkrediteringsordningen av sitt slag i Asia, kan det påvirke hvordan andre land utformer sine egne AI-forsikringssystemer.

Hvilke detaljer som fortsatt er uklare

Selv om målene og strukturen til AI TAP er offentlig kjent, er flere operasjonelle aspekter ennå ikke fullstendig avslørt, inkludert:

• Den detaljerte poengmodellen som brukes for akkreditering
• Spesifikke testprotokoller som kreves for sertifisering
• Om sektorspesifikke standarder vil gjelde for bransjer som helse eller finans

Disse detaljene vil sannsynligvis bli tydeligere etter hvert som programmet åpner for søknader og den første bølgen av testfirmaer gjennomgår akkreditering.

Det større bildet

AI-sikkerhetstesting blir en essensiell del av å ta i bruk moderne AI-systemer. Myndigheter og selskaper trenger i økende grad måter å verifisere om AI-modeller er sikre, pålitelige og i tråd med styringsprinsipper.

Singapores tilnærming fokuserer på å sertifisere testerne selv, og skaper et pålitelig lag av uavhengige evaluatorer som organisasjoner kan stole på når de vurderer AI-teknologier.

Hvis det lykkes, kan programmer som AI TAP bli en sentral byggestein i det globale AI-styringslandskapet.