AI TAP מושקת על ידי קרן AI Verify (AI Verify Foundation), ארגון ללא מטרות רווח שהוקם כדי לקדם בדיקות AI מהימנות ופיתוח תקנים. הקרן היא חברת בת של רשות התקשורת והמדיה של סינגפור (IMDA).
שרת הפיתוח הדיגיטלי והמידע של סינגפור, ג'וזפין טאו, הכריזה על התוכנית במהלך אירוע בינלאומי לבטיחות AI במאי 2026.
פרטי הפריסה הנוכחיים כוללים:
המטרה המרכזית של AI TAP היא להגביר את האמון בשירותי בדיקת בטיחות AI.
ככל שארגונים מאמצים מערכות AI, רבים מסתמכים על חברות מתמחות שיבחנו מודלים לאיתור חולשות – לעתים קרובות באמצעות 'האקינג אדום' (red-teaming) או ניסיונות לעקוף מנגנוני בטיחות. אבל האיכות והאמינות של ספקי בדיקות אלו יכולות להשתנות מאוד.
AI TAP שואפת לפתור זאת על ידי יצירת תקן הסמכה רשמי לחברות המציעות שירותי בדיקות AI.
התוכנית היא גם חלק מהמאמץ הרחב יותר של סינגפור לבנות מערכת אקולוגית של AI מהימנה המאזנת בין חדשנות טכנולוגית לבטיחות ואחריותיות.
מספר יוזמות קשורות תומכות במערכת אקולוגית זו, כולל:
יחד, תוכניות אלו שואפות לקבוע נורמות משותפות לפריסה אחראית של AI.
חברות המגישות מועמדות להסמכת AI TAP יעברו שתי קטגוריות עיקריות של הערכה.
ארגוני בדיקה חייבים להדגים ששיטות ההערכה שלהם עוקבות אחר קווים מנחים מוכרים לבדיקת מערכות AI. זה כולל הוכחה שהשירותים שלהם מתואמים עם הנחיות המכסות תחומים כגון:
מועמדים חייבים גם להפגין מתודולוגיות בדיקה מובנות ומערכי נתונים מתאימים להערכת מערכות AI.
מעבר למומחיות הטכנית, AI TAP תעריך את החברה עצמה. סקירת ההסמכה עשויה לבחון גורמים כגון:
סקירה דו-שכבתית זו נועדה להבטיח שבודקים מוסמכים הם גם מוכשרים טכנית וגם אמינים תפעולית.
למרות ש-AI TAP לא פרסמה רשימת בדיקה אוניברסלית, עבודת הבטחת איכות AI קיימת בסינגפור מדגישה מספר תחומי סיכון הנבדקים בדרך כלל במערכות AI.
אלה כוללים:
תרגילי בדיקה ביוזמות הבטחת האיכות של סינגפור הראו שמנגנוני הגנה יכולים להתנהג בצורה שונה בין שפות, ושעיצובי מערכת מסוימים עשויים להרחיב את הסיכון לדליפת מידע רגיש.
ארגוני בדיקת AI משלבים בדרך כלל הערכה אוטומטית עם ניתוח אנושי. דוגמאות לשיטות המשמשות בפרויקטי הבטחת איכות AI הקשורים לסינגפור כוללות:
גישות אלו מאפשרות לבודקים להעריך גם את הביצועים של מערכות AI וגם את העמידות של מנגנוני ההגנה שלהן.
הסמכת הבודקים עצמם נותנת מענה לבעיה הולכת וגוברת בממשל AI: הבטחת שהערכות בטיחות AI הן אמינות ועקביות.
השפעות פוטנציאליות של התוכנית כוללות:
מכיוון ש-AI TAP ממוקמת כתוכנית ההסמכה הראשונה מסוגה באסיה, היא עשויה להשפיע על האופן שבו מדינות אחרות יבנו את מערכות הבטחת האיכות שלהן.
בעוד שהמטרות והמבנה של AI TAP ידועים לציבור, מספר היבטים תפעוליים טרם נחשפו במלואם, כולל:
פרטים אלו צפויים להתבהר ככל שהתוכנית תפתח את ההרשמות והגל הראשון של חברות בדיקה יעבור תחת ההסמכה.
בדיקת בטיחות AI הופכת לחלק חיוני בפריסת מערכות AI מודרניות. ממשלות וחברות זקוקות יותר ויותר לדרכים לאמת שמודלי AI מאובטחים, אמינים ומיושרים עם עקרונות ממשל.
הגישה של סינגפור מתמקדת בהסמכת הבודקים עצמם, יצירת שכבת אמון של מעריכים עצמאיים שארגונים יכולים לסמוך עליהם בעת הערכת טכנולוגיות AI.
אם תצליח, תוכניות כמו AI TAP עשויות להפוך לאבן בניין מרכזית בנוף הממשל העולמי של AI.