לא לעצור את ה-AI — אלא לקבוע לו קצב בטוח יותר

האטה משמעותית בפיתוח AI אינה חייבת להיות עצירה גורפת של השימוש בבינה מלאכותית. המוקד יכול להיות קצב הפיתוח של מערכות AI מתקדמות במיוחד, ובפרט של מערכות שסיכוניהן עלולים להתפתח מהר יותר מהיכולת לבדוק אותן ולפקח עליהן. קריאות של בכירים בתעשייה להציב מעריכים עצמאיים ולתאם צעדים העלו את הנושא לסדר היום, אבל הבטחות מרצון לבדן אינן יוצרות מנגנון מחייב: בדיקות צריכות להיות עצמאיות, לתוצאות שלהן צריכות להיות השלכות, והדרישות צריכות להתאים לרמת הסיכון.

לסינגפור יש כמה אבני בניין לפיקוח כזה: מסגרת הנחיה לניהול סיכונים בסוכני AI, כלי הבדיקה AI Verify ותוכנית להכרה בבדיקות של גופים חיצוניים. האתגר הבא הוא לחבר את הכלים האלה להחלטות ברורות, המבוססות על ראיות, לגבי המערכות שאנשים וארגונים משתמשים בהן בפועל. 4

מה הקריאות להאטת AI אומרות — ומה לא

ההצעות האחרונות מתמקדות בקצב הפיתוח של AI מתקדם — המערכות בעלות היכולות הגבוהות ביותר, שבהן אמצעי הבטיחות והפיקוח החיצוני עלולים להתקשות להדביק את קצב השיפור. בין הרעיונות שעלו בסיקור: לאפשר למעריכים חיצוניים גישה שוטפת לחברות המפתחות מערכות כאלה, לתאם תקני בטיחות ולפעול לשיתוף פעולה בינלאומי רחב יותר.

הקריאות האלה מצביעות על עניין גובר, אך אינן מעידות על מדיניות מוסכמת או על הסכם מחייב בין חברות ה-AI. דוח בטיחות ה-AI הבינלאומי מתאר את ניהול הסיכונים כתחום שעדיין מתפתח, ומציין שרוב היוזמות של החברות נותרו וולונטריות. ההבדל חשוב: התחייבות של חברה לבדוק מודל אינה כשלעצמה כלל אכיף שמחייב אותה לעכב את השקתו אם נותרו סיכונים חמורים.

להפוך בדיקת סיכון לתנאי לשחרור

גישה מעשית תציב תנאים מחמירים יותר למערכות בעלות יכולות או סמכויות נרחבות יותר, בלי להקפיא שימושים שגרתיים ב-AI. אין סיבה שכלי פשוט לניסוח טקסט וסוכן שמורשה לבצע פעולות בעלות השלכות יידרשו אוטומטית לאותן בדיקות. מסגרת סינגפורית לסוכני AI כבר ממליצה להעריך סיכונים ולתחום אותם, וכן לקבוע נקודות שבהן נדרשת אישור אנושי לפני פעולות משמעותיות או רגישות. 46

למודלים מתקדמים במיוחד ולשימושים בעלי השפעה רבה, אפשר לבנות על העיקרון הזה תהליך שחרור שיכלול:

• הערכה עצמאית לפני השקה: לאפשר למעריכים חיצוניים מוסמכים גישה מאובטחת למערכות ולמידע הרלוונטי, ולבחון יכולות מסוכנות ושימוש לרעה שניתן לצפות מראש. גישה שוטפת למעריכים חיצוניים עלתה בהצעות האחרונות להאטת פיתוח AI מתקדם; היא אינה דרישה אוניברסלית שכבר חלה כיום.
• ספי סיכון ותוצאה ברורה: לפרסם, או לקבוע באופן ברור אחר, אילו ממצאים מחייבים אמצעי הגנה נוספים, הגבלת גישה או דחיית השקה. כישלון בבדיקה צריך להוביל לתגובה מתועדת, וכשהסיכון מצדיק זאת — לעיכוב ההשקה, ולא רק לסבב בדיקה פנימי נוסף. אלה צעדי ממשל מוצעים, ולא דרישות שמופיעות במסגרת הסינגפורית הקיימת. 4
• אמצעי הגנה בהתאם לשימוש: כשסוכן מקבל הרשאות לבצע פעולות משמעותיות, אפשר לשקול להגביל את סמכויותיו, לדרוש אישור אנושי בנקודות פעולה חשובות, לנטר את פעילותו ולהגדיר אחריות ברורה. המסגרת של סינגפור תומכת בהגבלת סיכונים ובפיקוח אנושי משמעותי; אמצעי הבקרה המדויקים צריכים להתאים למערכת ולשימוש בה. 48
• בדיקה חוזרת בעקבות שינויים מהותיים: להעריך מחדש שינויים משמעותיים במודל, בכלים הזמינים לו או בסביבת ההפעלה, ולא להתייחס לבדיקה קודמת כאל ערובה קבועה. כך אפשר לשמור על רלוונטיות הבדיקות גם כשהמערכת משתנה.

ליישומים בסיכון נמוך יותר ראוי ליצור מסלול ברור וקל יותר לאימוץ. כללים המבוססים על רמת הסיכון יכולים לאפשר לארגונים להשתמש ב-AI, בלי להציג בדיקה מוצלחת כהוכחה לכך שמערכת בטוחה בכל הקשר. חוק ה-AI של האיחוד האירופי הוא דוגמה לרגולציה שמארגנת את הדרישות לפי הסיכון שבשימושי AI.

כללים ציבוריים, בדיקות עצמאיות

תיאום בינלאומי עשוי להפוך בדיקות להשוואתיות יותר ולצמצם את התמריץ לחפש פיקוח מקל במיוחד. ממשלות יכולות לקדם שיטות בדיקה משותפות, שיתוף מידע על אירועים וציפיות מינימום למערכות בעלות הסיכון הגבוה ביותר. מעריכים עצמאיים יוכלו לספק ראיות מול הציפיות האלה. גם הקריאות האחרונות להאטה מדגישות תיאום בין חברות ותיאום בין מדינות.

חלוקת האחריות חשובה: על רשויות ציבוריות לקבוע ספים אכיפים ולהגדיר מה יהיו ההשלכות של חריגה מהם. חברות יכולות לתרום ידע טכני, אך לא צריכות להיות השופטות היחידות של המערכות שלהן. שיטות הבדיקה של גופים עצמאיים צריכות להיות שקופות, ויש לחשוף ניגודי עניינים. אלה עקרונות לתכנון מערך פיקוח אפשרי, ולא מאפיינים שכבר נקבעו בקריאות התעשייה שעליהן דווח.

על מה סינגפור יכולה לבנות

מסגרת הממשל של סינגפור לסוכני AI מספקת לארגונים הנחיות לפריסת סוכנים, ובהן הערכת סיכונים, אחריות אנושית ואמצעי בקרה. מדובר בהנחיות לפריסה אחראית — לא בתנאי מחייב לשחרור מערכת. 468

AI Verify מציע כלי בדיקה, ותוכנית ההסמכה AI Tester Accreditation Programme מכירה בגופי בדיקה חיצוניים בעלי יכולות טכניות ומוכנות תפעולית מתאימות. יחד, היוזמות האלה עשויות לתמוך בהערכות אחידות יותר בין ארגונים. סינגפור יכולה גם לעודד פרופילים משותפים להבטחת איכות והסכמים שיבהירו מה ספקי מודלים, משלבי מערכות, משתמשים עסקיים וגופי בדיקה צריכים להוכיח. אלה צעדים אפשריים להמשך, ולא מדיניות שכבר נקבעה במסגרות המצוטטות.

מטרה מועילה תהיה הכרה חוצת גבולות בראיות ובשיטות בדיקה — ולא הטענה שאישור של מדינה אחת מבטיח שכל מערכת בטוחה בכל שימוש. מסגרת וכלי בדיקה יכולים לעזור לבנות ראיות באופן מסודר; עדיין נדרשת בחינה של השאלה אם הראיות מתאימות לפריסה המסוימת ולסיכונים שלה.

לבחון יחד בטיחות AI, אמינות תוכנה ואבטחת סייבר

בדיקת התשובות שמודל מייצר היא רק חלק מהערכת סוכן AI. הערכה מלאה צריכה לבחון גם את מערכת התוכנה שסביבו ואת אבטחת הכלים וההרשאות שאליהם הוא יכול לגשת. אלה שאלות קשורות אך נפרדות: איזו התנהגות מזיקה ה-AI עלול להפיק; כיצד היישום כולו מתנהג במקרה של תקלה או שינוי; והאם תוקף יכול להשתלט על המערכת או להסיט אותה.

הערכה משולבת כזאת היא הרחבה מומלצת של תהליכי הבטחת האיכות — לא טענה שכל כלי קיים כבר מכסה את שלושת התחומים. בתיעוד של AI Verify Toolkit מתוארים מבחנים טכניים למערכות למידת מכונה מסורתיות, ובהם הוגנות, הסברתיות ועמידות. לכן חשוב להגדיר אילו בדיקות נוספות מקצה לקצה נחוצות לפריסת סוכנים, ולא להניח שתוצאה המתייחסת למודל לבדו מאשרת את המערכת כולה.

כך נראית האטה משמעותית

האטה משמעותית היא כזו שבה ראיות עצמאיות יכולות לשנות את הצעד הבא: אפשר לעכב או להגביל שחרור בסיכון גבוה, או לדרוש תיקון של אמצעי ההגנה אם אינם מספקים — ובמקביל להשאיר לשימושים רגילים ובסיכון נמוך מסלול מידתי לפריסה. המסגרות ותוכניות הבדיקה של סינגפור מספקות בסיס לבניית מערך כזה, אך יהיה צורך להגדיר במפורש את ספי השחרור, אופן האכיפה והיקף הבדיקות.