טראמפ ושי דיברו על בטיחות הבינה המלאכותית. מה עשוי להשתנות בפועל?

אם תתרחש תקרית חמורה הקשורה לבינה מלאכותית, האם וושינגטון ובייג׳ינג יוכלו להתריע זו לזו לפני שהמצב יסלים? זו השאלה המעשית שעמדה מאחורי היוזמה הברורה ביותר שדווחה סביב פסגת דונלד טראמפ ושי ג׳ינפינג ב־24 בספטמבר. על סמך המידע הזמין, מדובר בניסיון לנהל סיכונים בתוך התחרות בין המדינות — לא בהסכמה להגביל את פיתוח הבינה המלאכותית או להחיל כללי בטיחות מחייבים.12451

מה הוצע בפועל?

שר האוצר האמריקאי סקוט בסנט אמר כי בשיחות עם סגן ראש ממשלת סין, חה ליפנג, הציעה ארה״ב מנגנון להודעות על תקריות בינה מלאכותית, שיובא לעיון המנהיגים. לפי הדיווחים, הרעיון היה להתמקד בתקריות חמורות מספיק כדי לעורר חשש לביטחון הלאומי. התיאור הזה מצביע על הצעה לערוץ תקשורת, לא על כללים דו־צדדיים שפורסמו והתקבלו.13

ערוץ כזה יכול לעזור לפקידים לברר במהירות מה קרה ולצמצם אי־הבנות בזמן משבר. אבל דיווח על אירוע אינו זהה למניעתו: בלי תנאים נוספים, ההצעה אינה מחייבת בדיקות בטיחות למודלים מתקדמים לפני הפעלתם, מגבלות על השימוש בהם, פיקוח עצמאי או סנקציות על הפרת כללים.

בין הצהרות על בטיחות להתחייבויות

טראמפ התנגד לרגולציה חדשה על בינה מלאכותית ואמר שרשויות האכיפה בארה״ב, ובהן משרד המשפטים, יוכלו להתערב אם יהיה צורך. לפני הפגישה הוא כתב ש״סופר־אינטליגנציה״ תהיה נושא מרכזי לדיון, אך שהוא רוצה ״להשאיר אותה בדיוק כפי שהיא״. הדברים מלמדים על העדפתו שלא להטיל מגבלות מניעה חדשות; הם אינם מוכיחים שסין הסכימה לעמדתו.5022

שי אמר בפומבי שלארה״ב ולסין יש אחריות לפתח ולנהל בינה מלאכותית כך שתישאר בשליטה אנושית.24 זו הצהרת עיקרון, ולא עדות להסכמה על בדיקות משותפות או על האטה הדדית בפיתוח. לפי דיווח של בלומברג ערב הפגישה, אף אחת מהממשלות לא אותתה שבכוונתה להאט את פיתוח הבינה המלאכותית.51

גם מחוץ לשיחות נשמעו דרישות שונות. סם אלטמן מ־OpenAI ודריו אמודיי מ־Anthropic קראו במועצת הביטחון של האו״ם לתיאום בינלאומי מול סיכוני בינה מלאכותית. אמודיי קרא גם לפיתוח איטי ומפוקח יותר, לרבות פיקוח עצמאי ורגולציה רחבה.1748 במקביל, הסנאטורים הדמוקרטים צ׳אק שומר, אליזבת וורן ואחרים דרשו להדק את ההגבלות על יצוא שבבי בינה מלאכותית מתקדמים וציוד לייצור שבבים לסין, ולקדם הצבעות על חקיקה בנושא.3545 הגבלת גישתה של מדינה מתחרה לטכנולוגיה אינה זהה להסכמה הדדית על בדיקות בטיחות או על מגבלות הפעלה. הבינה המלאכותית הייתה גם רק אחד הנושאים במגעים רחבים יותר בין המדינות.34

מה צריך לקרות כדי שזו תהיה יותר משיחה?

כדי להבחין בין ערוץ התרעה להסכם בטיחות מחייב, צריך לראות התחייבויות מפורסמות: אילו מערכות ותקריות נכללות, מי חייב לדווח ובאיזה פרק זמן, ומה קורה במקרה של הפרה. שיתוף פעולה מניעתי ידרוש גם דרישות לבדיקה או להפעלה בטוחה, דרך לוודא שהן מתקיימות והשלכות לאי־עמידה בהן.

יש דיווח המתאר את הערוץ כאילו כבר הוקם, בעוד שהדיווחים הברורים ביותר על שיחות בסנט מציגים אותו כהצעה אמריקאית שהמנהיגים אמורים לשקול.131 עד לפרסום תנאים מוסכמים וראיות להפעלתם, המסקנה הזהירה היא ניהול התחרות עם פתח לשיתוף פעולה בטיחותי — לא הוכחה להסכם בטיחות מחייב.