Singapurs AI Tester Accreditation Programme (AI TAP) verständlich erklärt

Die Ankündigung erfolgte durch Singapurs Ministerin für Digital Development and Information, Josephine Teo, bei einer internationalen Veranstaltung zur KI‑Sicherheit im Mai 2026.

Der aktuelle Zeitplan:

• Start des Programms: zweite Hälfte 2026
• Öffnung der Akkreditierungsbewerbungen: voraussichtlich im dritten Quartal 2026

Warum Singapur AI TAP entwickelt hat

Das Hauptziel von AI TAP ist es, Vertrauen in KI‑Sicherheitsprüfungen zu schaffen.

Viele Organisationen beauftragen heute spezialisierte Firmen damit, KI‑Systeme auf Schwachstellen zu untersuchen – etwa durch sogenannte Red‑Team‑Tests oder Versuche, Schutzmechanismen zu umgehen. Doch die Qualität dieser Anbieter kann stark variieren.

AI TAP soll deshalb einen klaren Akkreditierungsstandard für KI‑Testdienstleister schaffen.

Das Programm ist Teil einer größeren Strategie Singapurs, ein verlässliches KI‑Ökosystem aufzubauen, in dem Innovation mit Sicherheits‑ und Governance‑Standards kombiniert wird.

Dazu gehören auch:

• das AI Verify Testing Framework, mit dem Unternehmen prüfen können, ob ihre KI‑Systeme internationalen Governance‑Prinzipien entsprechen.
• der Global AI Assurance Pilot und entsprechende Sandbox‑Programme, in denen Unternehmen und spezialisierte Prüfer reale KI‑Anwendungen gemeinsam testen.

Wie AI TAP KI‑Testfirmen zertifizieren soll

Unternehmen, die eine AI‑TAP‑Akkreditierung beantragen, müssen zwei zentrale Prüfbereiche durchlaufen.

Technische Bewertung

Testfirmen müssen nachweisen, dass ihre Methoden anerkannten Leitlinien für KI‑Tests entsprechen. Dazu gehört unter anderem die Fähigkeit, Systeme zu prüfen hinsichtlich:

• Sicherheit von Anwendungen mit großen Sprachmodellen (LLMs)
• Robustheit und Zuverlässigkeit
• Identifikation von Schwachstellen und möglichen Exploits

Außerdem müssen sie strukturierte Testmethoden sowie geeignete Datensätze für Evaluierungen vorlegen.

Organisatorische Bewertung

Neben der technischen Kompetenz wird auch das Unternehmen selbst überprüft. Dazu können gehören:

• Reputation und bisherige Geschäftstätigkeit
• operative Kapazitäten und Fachpersonal
• finanzielle Stabilität
• Übereinstimmung zwischen beworbenen Dienstleistungen und tatsächlichen Fähigkeiten

Diese zweistufige Prüfung soll sicherstellen, dass akkreditierte Tester nicht nur technisch kompetent, sondern auch organisatorisch zuverlässig sind.

Welche Risiken KI‑Tester untersuchen

Eine offizielle universelle Testliste hat AI TAP noch nicht veröffentlicht. Erfahrungen aus Singapurs bestehenden AI‑Assurance‑Projekten zeigen jedoch typische Risikobereiche.

Dazu zählen beispielsweise:

• Sicherheitslücken, etwa Möglichkeiten, Schutzmechanismen zu umgehen
• Problematische Inhalte, wenn Modelle schädliche oder unangemessene Antworten erzeugen
• Datenleck‑Risiken, insbesondere bei Systemen mit Retrieval‑Augmented Generation (RAG), die interne Wissensdatenbanken nutzen
• Mehrsprachige Sicherheitslücken, wenn Schutzmechanismen in einer Sprache funktionieren, in anderen aber versagen
• Fehlerhafte oder halluzinierte Antworten und mangelnde Robustheit

Praxisprojekte haben etwa gezeigt, dass Sicherheitsregeln, die auf Englisch funktionieren, bei anderen Sprachen versagen können und dass bestimmte Systemarchitekturen das Risiko sensibler Datenlecks erhöhen können.

Typische Methoden beim Testen von KI‑Systemen

Unternehmen, die KI‑Sicherheitsprüfungen durchführen, kombinieren meist automatisierte Tests mit menschlicher Analyse.

Zu den häufig verwendeten Methoden gehören etwa:

• Adversarial Prompting und Red‑Teaming, um sogenannte Jailbreak‑Schwachstellen zu finden
• synthetische Testdatensätze, um seltene oder extreme Fehlerszenarien zu simulieren
• Benchmark‑Tests zur Genauigkeit, etwa Klassifikations‑ oder Retrieval‑Performance
• Human‑in‑the‑loop‑Evaluation, bei der Experten die Antworten bewerten
• „LLM‑as‑judge“-Ansätze, bei denen KI‑Modelle selbst bei der Bewertung von Ausgaben helfen

Diese Verfahren erlauben es, sowohl die Leistung eines Systems als auch die Wirksamkeit seiner Sicherheitsmechanismen zu überprüfen.

Welche Rolle AI TAP international spielen könnte

Ein häufig diskutiertes Problem in der KI‑Governance ist nicht nur die Bewertung von Modellen – sondern die Glaubwürdigkeit der Tester selbst.

Genau hier setzt AI TAP an: Wenn die Prüfer akkreditiert sind, können Organisationen eher darauf vertrauen, dass ihre KI‑Sicherheitsprüfungen konsistent und professionell durchgeführt werden.

Mögliche Auswirkungen des Programms:

• mehr Vertrauen bei der Beauftragung externer KI‑Testfirmen
• klarere Standards für professionelle KI‑Sicherheitsprüfungen
• bessere Vergleichbarkeit von Testergebnissen
• engere Zusammenarbeit zwischen KI‑Entwicklern und unabhängigen Prüfern

Da AI TAP als erstes Akkreditierungsprogramm für KI‑Tester in Asien gilt, könnte es auch andere Länder dazu inspirieren, ähnliche Systeme einzuführen.

Was bisher noch nicht feststeht

Obwohl die Grundstruktur bekannt ist, sind einige Details noch offen, darunter:

• das genaue Bewertungssystem für Akkreditierungen
• konkrete technische Testprotokolle
• mögliche branchenspezifische Standards, etwa für Medizin oder Finanzwesen

Diese Punkte dürften klarer werden, sobald die Bewerbungsphase startet und die ersten Testfirmen akkreditiert werden.

Das größere Bild

Mit der zunehmenden Verbreitung von KI wird unabhängige Sicherheitsprüfung zu einem zentralen Bestandteil verantwortungsvoller Technologie‑Einführung.

Singapur verfolgt dabei einen besonderen Ansatz: Statt nur Modelle oder Anwendungen zu zertifizieren, wird die Qualität der Prüfer selbst standardisiert.

Wenn das Modell funktioniert, könnte AI TAP zu einem wichtigen Baustein der internationalen KI‑Governance werden – und dazu beitragen, globale Standards für vertrauenswürdige KI‑Tests zu etablieren.