למה סינגפור רוצה שבטיחות הבינה המלאכותית תעבוד כמו בטיחות בטיסה

כשעולים למטוס, לא מסתמכים רק על כך שהוא נבנה היטב. סומכים גם על התחזוקה, על ניהול התנועה האווירית, על צוותים מיומנים ועל נהלים שמיושמים בכל טיסה. זו הנקודה ששרת הפיתוח הדיגיטלי והמידע של סינגפור, ג׳וזפין טאו, מבקשת להדגיש לגבי בינה מלאכותית: כדי שאנשים יסתמכו עליה לאורך זמן, הם צריכים לבטוח במערכת ההגנות כולה. בפוסט שפרסמה בלינקדאין ב־17 בספטמבר, היא הציעה שבעתיד ייתכן שיידרש ל-AI מערך בטיחות הדומה לזה של התעופה האזרחית. היא לא טענה שמערך כזה כבר קיים. 23

מה אפשר ללמוד מענף התעופה?

בטיחות בתעופה נשענת על שכבות משלימות: ייצור ותחזוקה של כלי טיס, ניהול מרחב אווירי ושדות תעופה, הכשרת עובדים ויישום עקבי של אמצעי הגנה. בדוגמה של טאו, האמון נוצר משום שהאחריות אינה נעצרת אצל יצרן המטוס — והיא אינה מסתכמת בבדיקת בטיחות חד־פעמית. 79

אין פירוש הדבר שאפשר להעתיק את תקנות התעופה אל עולם ה-AI. ההשוואה מציבה שאלות מעשיות: כיצד בודקים מערכת לפני השימוש בה, מי בוחן אותה שוב כשהיא משתנה, ואיזו הכוונה דרושה לאנשים שמפעילים אותה? טאו תיארה את גישת התעופה כרב־שכבתית, והדגישה שסינגפור צריכה ללמוד במהירות משום שעדיין אין מדריך פעולה מוכן לבטיחות AI. 5

מה סינגפור עושה בינתיים?

הגישה שטאו מציגה היא לבנות אמצעי בטיחות במקביל להתרחבות השימוש בבינה מלאכותית, ולא להמתין עד שיושלם מערך כללים מגובש. מחקר ובדיקות נוספים עדיין נחוצים. בין היוזמות הקיימות בסינגפור נמנים AI Verify, שנועד לעודד בדיקות אחראיות ושקיפות, והמכון הסינגפורי לבטיחות בינה מלאכותית. 1222

טאו הציגה גם תוכנית להסמכת בודקי AI עצמאיים: המטרה היא שארגונים המפעילים מערכות כאלה יוכלו לדעת טוב יותר על מי לסמוך בבדיקתן. אלה צעדים ליצירת בקרה מהימנה יותר, לא הוכחה שכל הסיכונים נפתרו. 22

מכיוון שמערכות AI וסיכוניהן חוצים גבולות, סינגפור אירחה מפגש מדעי בין־לאומי בנושא בטיחות AI, סייעה בגיבוש ״קונצנזוס סינגפור״ על סדרי עדיפויות למחקר בטיחות עולמי והשתתפה במאמצי בדיקה משותפים. מדובר בשיתוף פעולה מחקרי ומעשי — לא ברגולטור בין־לאומי מחייב במתכונת של ענף התעופה. 181

האם זו קריאה להאט את פיתוח ה-AI?

לא בדיוק. דבריה של טאו נאמרים על רקע אזהרות מפני מערכות AI מתקדמות יותר, ובהן חששות מאובדן שליטה אנושית, ממתקפות סייבר ומשימוש לרעה לצורכי טרור ביולוגי. ב־12 בספטמבר קרא מנכ״ל Anthropic, דריו אמודיי, להאט את קצב השיפור של המודלים המתקדמים ביותר, כדי שעבודת הבטיחות והבדיקות העצמאיות יוכלו להדביק אותו. אזהרתו שסוכני AI עלולים בעתיד לחולל שיבוש ברחבי האינטרנט היא תחזית, לא אירוע שהתרחש. 131011

ההבדל הוא בדגש: טאו קוראת לחזק את ההגנות ככל שהשימוש מתרחב; אמודיי מבקש גם למתן את קצב ההתקדמות ביכולות המודלים. השאלה המשותפת לשניהם עדיין פתוחה: האם אמצעי הבטיחות יוכלו להתפתח מהר מספיק כדי להצדיק את האמון במערכות הללו? 1311