בכירי הבינה המלאכותית במועצת הביטחון: שיתוף פעולה בטיחותי מול מרוץ תחרותי

מועצת הביטחון של האו״ם צפויה לדון בבינה מלאכותית מתקדמת לא רק כנושא טכנולוגי, אלא כסוגיה של ביטחון בין־לאומי: שימוש לרעה בידי גורמים עוינים, אפשרות שמפתחים יאבדו שליטה אפקטיבית במערכות שהולכות ונעשות מסוגלות יותר, והצורך בתקני בטיחות ובמנגנוני הגנה חוצי גבולות. צרפת כינסה את הדיון ב־23 בספטמבר תחת סעיף סדר היום „שמירה על השלום והביטחון הבין־לאומיים”. 10

המסר הצפוי: כללי בטיחות שאינם נעצרים בגבול

הנוסח המדויק של דברי סם אלטמן, מנכ״ל OpenAI; דריו אמודיי, מנכ״ל Anthropic; חוקר הבינה המלאכותית יושוע בנג'יו; ומנכ״ל Hugging Face קלמנט דלנג, לא פורסם מראש. עם זאת, הכיוון המסתמן הוא קריאה לתיאום בין־לאומי, במקום להשאיר את בטיחותם של מודלי־חזית בידי חברות או מדינות בודדות. בין הכלים האפשריים: הערכות סיכונים אחידות, שיתוף מידע על יכולות מסוכנות ועל תקריות, בדיקות עצמאיות והגנות מפני הפיכת המערכות לכלי נשק או שימוש זדוני אחר. מוקד הדיון המוצהר הוא סיכונים הקשורים ל-AI לביטחון הבין־לאומי. 10

בדיקות הדדיות: שיתוף פעולה מוגבל בין מתחרות

OpenAI ו-Anthropic כבר דיווחו על ניסוי משותף: כל חברה הפעילה את הערכות הבטיחות ואי־ההתאמה הפנימיות שלה על המודלים שפרסמה החברה האחרת, ולאחר מכן פרסמו את הממצאים. מדובר בביקורת הדדית מצומצמת שנועדה לחשוף נקודות עיוורון שמעבדה עלולה להחמיץ בבחינת המודל שלה עצמה. 15

המודל הזה ממחיש את הקו העדין. כדי לבדוק זו את זו באופן משמעותי, מתחרות חייבות לאפשר גישה מספקת ולחלוק מידע בטיחותי רלוונטי. מנגד, אסור ששיתוף הפעולה יגלוש לתיאום של מפת דרכים למוצרים, מועדי השקה, מחירים או קצב ההתקדמות הטכנולוגית.

כשבטיחות פוגשת דיני תחרות

תובענה ייצוגית מוצעת בארה״ב טוענת כי Anthropic, OpenAI, SpaceXAI ו-Google הסכימו באופן בלתי חוקי להאט את פיתוח הבינה המלאכותית. זו טענה של תובעים — לא קביעה של בית משפט. 1

התביעה מדגישה את המתח המבני: תומכי בטיחות יכולים לראות בספי שחרור מתואמים או בהפסקות יזומות אמצעי זהירות אחראי; תובעים עשויים להציג את אותה התנהלות כהגבלת תפוקה מצד מתחרות דומיננטיות. לכן, קל יותר להצדיק בדיקות הדדיות טכניות, מוגדרות ומתועדות, מאשר החלטות קולקטיביות על השאלה מתי לשחרר מודל חדש או באיזה קצב לשפר אותו.

הניגוד לעמדה שהציג טראמפ באו״ם

הדיון בהובלת צרפת מציג את סיכוני מודלי־החזית כבעיית פעולה קולקטיבית המחייבת אמצעי הגנה בין־לאומיים. בנאומו בעצרת הכללית, דונלד טראמפ הציג עמדה פוליטית הפוכה: הוא דחה פיקוח בין־לאומי על AI, תיאר אזהרות בטיחות כתרמית, הדגיש את יתרונה של ארה״ב במרוץ הבינה המלאכותית ואמר שהממשל הפדרלי ישתמש במונח „סופר־אינטליגנציה” במקום „בינה מלאכותית”. 3 דיווחים תיארו את שינוי השם ככזה שאמור לחול על תקשורת רשמית של ממשלת ארה״ב. 2

השורה התחתונה היא פער חד בגישה: היוזמה הצרפתית מבקשת כללים משותפים שימנעו מרוץ לתחתית בבטיחות; גישתו של טראמפ מציגה ריסון כסיכון ליתרון הטכנולוגי של ארה״ב. השאלה שנותרה פתוחה היא כיצד לאפשר שיתוף פעולה בטיחותי ממוקד, ניתן לביקורת ושקוף — בלי שיהפוך בפועל לתיאום אסור בין יריבות עסקיות.