למה סינגפור ו־19 מדינות נוספות קוראות לפיקוח בינלאומי על מודלי AI מתקדמים

ככל שמודלי בינה מלאכותית מתקדמים נעשים רבי־יכולת, גוברת השאלה מי יכול לבדוק את הסיכונים שלהם — והאם די בכללים שכל חברה או מדינה קובעת לעצמה. זו השאלה שעומדת מאחורי הקריאה לשליטה במודלי בינה מלאכותית מתקדמים, שהושקה ב־21 בספטמבר 2026 בשולי עצרת האו״ם בניו יורק. מטרתה היא להשאיר את בני האדם אחראים לטכנולוגיה, בלי לוותר על התועלת שהיא עשויה להביא.13133

למה סינגפור הצטרפה?

ראש ממשלת סינגפור, לורנס וונג, הציג עמדה המשלבת בין השניים: ל־AI יש פוטנציאל עצום, אך הוא חייב להישאר תחת שליטה ופיקוח אנושיים. סינגפור הייתה המדינה היחידה מדרום־מזרח אסיה שהשתתפה בקריאה המשותפת בעת השקתה.617

ההצהרה עצמה מכירה ביכולתה של בינה מלאכותית לשפר חיים, לקדם את המדע ולחזק כלכלות. לצד זאת, היא מזהירה שהפיתוח המהיר של המודלים המתקדמים ביותר יוצר סיכוני בטיחות וביטחון שמדינות עלולות להתקשות להתמודד איתם לבדן. היא קוראת לפיתוח ולשימוש ב־AI תחת פיקוח אנושי ובהתאם למשפט הבינלאומי.1331

מה מבקשות המדינות לעשות בפועל?

המסמך מחלק את העבודה בין כמה גורמים. הוא אינו מקים גוף פיקוח עולמי; הקמת גוף כזה היא אפשרות שהמדינות מתבקשות לבחון.2936

• חברות המפתחות מודלים מתבקשות לקבוע נהלי בטיחות שקופים, ובהם בדיקות לפני שימוש במודלים והערכות עצמאיות. מעריכים מוסמכים אמורים לקבל גישה מספקת כדי לבחון את הסיכונים.30
• ממשלות וארגונים אזוריים מתבקשים לתאם תקנים משותפים ולשפר את השקיפות, לרבות שיתוף דיווחים על אירועי בטיחות חמורים. ההצעות כוללות גם הרחבת הגישה למומחיות מדעית ולהערכות מהימנות.2530
• המדינות החברות באו״ם מתבקשות להסתמך על מנגנונים קיימים ולבחון מוסד בינלאומי שיוכל לקבוע תקנים, לאפשר אימות ולכנס מדינות כאשר מערכות AI חוצות ספי יכולת משמעותיים.2936

במילים אחרות, הדגש הוא על בדיקות, אימות ופיקוח משותף — לא על דרישה מפורשת בהצעות המצוטטות לעצור את פיתוח המודלים המתקדמים.293036

מי הצטרף, ומי נשאר בחוץ?

את היוזמה הובילו נשיא פינלנד אלכסנדר סטוב וראש ממשלת נורווגיה יונס גר סטורה. לפי לשכת נשיא פינלנד, בעת ההשקה תמכו בה פינלנד ונורווגיה, ולצדן דנמרק, איסלנד, אסטוניה, לטביה, הולנד, אירלנד, גרמניה, ספרד, מולדובה, טורקיה, איחוד האמירויות הערביות, בחריין, קזחסטן, סינגפור, קניה, דרום אפריקה, קנדה ואוסטרליה. גם הנציבות האירופית הצטרפה. מאז דווח על תומכים נוספים, כך שרשימת ההשקה אינה רשימה סופית.33

ארצות הברית וסין לא היו בין המשתתפות הראשונות. סטוב אמר שהוא מקווה לצרף עוד שותפים, אך עצם היעדרן אינו מלמד מדוע כל אחת מהן בחרה שלא להצטרף.9 מזכ״ל האו״ם, אנטוניו גוטרש, בירך על היוזמה ותמך בבחינת תקנים, מנגנוני אימות ודרך לכנס מדינות כאשר ייחצו ספי יכולת.36

הקריאה פורסמה על רקע עיסוק גובר בבטיחות המודלים המתקדמים: מיקרוסופט פרסמה עקרונות מנחים לפיתוחם, ואנתרופיק הודיעה ימים קודם לכן על שותפות עם אקסנצ׳ר להערכה עצמאית של מודליה. אלה התפתחויות שממחישות את ההקשר, לא ראיה לכך שהן גרמו למדינות להשיק את היוזמה.3940