Singapores AI TAP: Asiens första certifieringsprogram för AI-testare

Initiativet beskrivs ofta som Asiens första ackrediteringsprogram specifikt för AI-testorganisationer, med avsikt att skapa en riktmärke för AI-säkringstjänster.

Vem som lanserar AI TAP och när det startar

AI TAP lanseras av AI Verify Foundation, en icke-vinstdrivande organisation som etablerats för att främja tillförlitlig AI-testning och standardutveckling. Stiftelsen är ett dotterbolag till Singapores Infocomm Media Development Authority (IMDA).

Singapores minister för digital utveckling och information, Josephine Teo, tillkännagav programmet under en internationell AI-säkerhetskonferens i maj 2026.

Nuvarande detaljer om lanseringen inkluderar:

• Lanserande organisation: AI Verify Foundation
• Förväntad lansering: andra halvåret 2026
• Ackrediteringsansökningar: väntas öppna runt tredje kvartalet 2026

Varför Singapore skapade AI TAP

Huvudmålet med AI TAP är att öka förtroendet för AI-säkerhetstestning.

När organisationer använder AI-system förlitar sig många på specialiserade företag som undersöker modeller för svagheter – ofta genom så kallad red-teaming eller försök att kringgå säkerhetsskydd. Men kvaliteten och trovärdigheten hos dessa testleverantörer kan variera kraftigt.

AI TAP syftar till att lösa detta genom att skapa en formell ackrediteringsstandard för företag som erbjuder AI-testtjänster.

Programmet är också en del av Singapores bredare satsning på att bygga ett tillförlitligt AI-ekosystem som balanserar teknisk innovation med säkerhet och ansvarsskyldighet.

Flera relaterade initiativ stöder detta ekosystem, inklusive:

• AI Verify-testramverket, som hjälper företag att bedöma om deras AI-system följer internationellt erkända styrprinciper.
• Global AI Assurance Pilot och Sandbox, som kopplar samman företag som använder AI med specialiserade testföretag för att utveckla praktiska testmetoder.

Tillsammans syftar dessa program till att etablera gemensamma normer för ansvarsfull AI-användning.

Hur AI TAP kommer att certifiera AI-testföretag

Företag som ansöker om AI TAP-ackreditering kommer att genomgå två huvudsakliga utvärderingskategorier.

Teknisk kapacitetsbedömning

Testorganisationer måste visa att deras utvärderingsmetoder följer erkända riktlinjer för AI-systemtestning. Detta inkluderar att visa att deras tjänster överensstämmer med vägledning som täcker områden som:

• Säkerhet för stora språkmodeller (LLM)
• Tillförlitlighets- och robusthetstestning
• Sårbarhetsupptäckt och exploateringstestning

Sökande måste också visa upp strukturerade testmetodiker och lämpliga dataset för att utvärdera AI-system.

Organisatorisk och operativ utvärdering

Utöver teknisk expertis kommer AI TAP att bedöma företaget självt. Ackrediteringsgranskningen kan undersöka faktorer som:

• Affärsanseende och meritlista
• Operativ kapacitet och personalexpertis
• Finansiell stabilitet
• Huruvida de tjänster som annonseras matchar organisationens faktiska förmåga

Denna tvåstegsgranskning är utformad för att säkerställa att ackrediterade testare är både tekniskt kompetenta och operativt pålitliga.

Typer av AI-risker som testare förväntas undersöka

Även om AI TAP inte har publicerat en universell checklista för tester, belyser befintligt AI-säkringsarbete i Singapore flera riskområden som vanligtvis undersöks i AI-system.

Dessa inkluderar:

• Säkerhetsbrister och exploaterbarhet, inklusive försök att kringgå skyddsmekanismer eller extrahera begränsad information
• Innehållssäkerhetsmisslyckanden, som att generera skadliga eller olämpliga utdata
• Dataläckagerisker, särskilt i retrieval-augmented generation (RAG)-system kopplade till interna kunskapsbaser
• Flerspråkiga säkerhetsluckor, där skyddsmekanismer som fungerar på ett språk kan misslyckas på ett annat
• Noggrannhets- och robusthetsproblem, inklusive hallucinerade eller inkonsekventa svar

Testövningar inom Singapores AI-säkringsinitiativ har visat att skyddsmekanismer kan bete sig olika på olika språk och att vissa systemdesigner kan öka risken för känsligt informationsläckage.

Testmetoder som används inom AI-säkring

AI-testorganisationer kombinerar vanligtvis automatiserad utvärdering med mänsklig analys. Exempel på metoder som används i Singapore-kopplade AI-säkringsprojekt inkluderar:

• Adversarial prompting och red-teaming för att undersöka sårbarheter för jailbreak
• Syntetisk datasetgenerering för att skapa gränsfall och sällsynta feltillstånd
• Noggrannhetsmätning, inklusive klassificeringsnoggrannhet och återvinningsprecision
• Human-in-the-loop-granskning, där experter utvärderar systemets svar
• LLM-as-judge-metoder, där AI-modeller hjälper till att skala utvärdering av utdata

Dessa tillvägagångssätt gör det möjligt för testare att utvärdera både AI-systemens prestanda och robustheten hos deras skyddsmekanismer.

Hur AI TAP kan forma det globala AI-säkerhetsekosystemet

Att ackreditera testarna själva adresserar ett växande problem inom AI-styrning: att säkerställa att AI-säkerhetsutvärderingar är trovärdiga och konsekventa.

Potentiella effekter av programmet inkluderar:

• Större förtroende när organisationer anlitar externa företag för att utvärdera AI-system
• Tydligare förväntningar på vad som utgör kompetent AI-säkerhetstestning
• Bättre jämförbarhet av testresultat över branscher och jurisdiktioner
• Starkare samarbete mellan AI-utvecklare och specialiserade säkerhetsrevisorer

Eftersom AI TAP positioneras som det första ackrediteringssystemet av sitt slag i Asien, kan det påverka hur andra länder utformar sina egna AI-säkringssystem.

Vilka detaljer som fortfarande är oklara

Även om målen och strukturen för AI TAP är kända, har flera operativa aspekter ännu inte offentliggjorts fullt ut, inklusive:

• Det detaljerade poängsystemet för ackreditering
• Specifika testprotokoll som krävs för certifiering
• Huruvida sektorspecifika standarder kommer att gälla för industrier som sjukvård eller finans

Dessa detaljer kommer sannolikt att bli tydligare när programmet öppnar för ansökningar och den första vågen av testföretag genomgår ackreditering.

Den större bilden

AI-säkerhetstestning håller på att bli en väsentlig del av att använda moderna AI-system. Regeringar och företag behöver alltmer sätt att verifiera om AI-modeller är säkra, pålitliga och följer styrprinciper.

Singapores tillvägagångssätt fokuserar på att certifiera testarna själva, vilket skapar ett pålitligt lager av oberoende utvärderare som organisationer kan lita på när de bedömer AI-teknik.

Om det lyckas kan program som AI TAP bli en nyckelbyggsten i det globala AI-styrningslandskapet.