בריטניה דחתה "מתג חירום" ל-AI: הוויכוח על שליטה במודלים מסוכנים רק מתחדד

ממשלת בריטניה אינה טוענת שמודלי בינה מלאכותית מסוכנים אינם מהווים סיכון. הטיעון המרכזי שלה נגד "מתג חירום" הוא שטיפול המוגבל לשטח בריטניה יהיה חלקי בלבד: השבתת גישה, מודל או מרכז נתונים במדינה לא תמנע פיתוח, אירוח או שימוש לרעה במערכות דומות מחוץ לה. 1

העמדה הזו חידדה מחלוקת מדינית. השרים אומרים שכבר קיימות דרכים להתערב באירועי סייבר חמורים, ושאפשר להקשיח את הרגולציה אם אמצעי ההגנה ההתנדבותיים ייכשלו. תומכי סמכויות חדשות, מנגד, סבורים שתכנון מול סיכונים קטסטרופליים מחייב כלים מפורשים ואכיפים עוד לפני שמתרחש מצב חירום. 1617

מה היה עושה "מתג החירום" המוצע

הלורד טים קלמנט-ג'ונס הציע תיקון להצעת החוק הבריטית לאבטחת סייבר ולעמידות (Cyber Security and Resilience Bill). מטרתו הייתה ליצור מנגנון חוקי להתערבות חירום מול AI מסוכן: סמכות כמוצא אחרון להשבית מודל בינה מלאכותית או להפסיק פעילות של מרכז נתונים בבריטניה, אם המערכת יוצרת איום חמור על הביטחון או על התפעול. 26

להצעה הייתה חשיבות משום שהכללים הקיימים בתחום הסייבר מתמקדים בעיקר באבטחת רשתות ומערכות מידע. מבקרים טענו שהם אינם יוצרים מסגרת ייעודית וברורה לפיקוח על מפתחי מודלי קצה — כלומר המודלים המתקדמים ביותר — או למענה על סיכונים שמקורם במודל אוטונומי עצמו. 15

עמדת הממשלה: אי אפשר פשוט "לכבות את ה-AI"

התנגדות משרד הקבינט הבריטי נשענת בעיקר על שאלת סמכות השיפוט. בניסוחו, בריטניה "אינה יכולה פשוט לכבות את ה-AI": חסימת גישה למודלים בתוך המדינה לא תמנע בנייה או ניצול של מודל בעל יכולות דומות במדינה אחרת. 1

זו גם המגבלה המעשית של סמכות כיבוי לאומית. היא עשויה לשבש תשתית שנמצאת תחת סמכות בריטית, אך אינה יכולה כשלעצמה למחוק את משקלי המודל, לעצור שירותים מרוחקים שמופעלים מחוץ למדינה, או למנוע מגורמים זרים לפתח יכולות מקבילות. סמכות מקומית יכולה בכל זאת לסייע בבלימת אירוע מקומי — אבל אינה פתרון מלא לטכנולוגיה חוצת גבולות.

חוקר OpenAI לשעבר, דניאל קוקוטאיילו, העלה טיעון דומה בדיווחים על ההצעה: כיבוי חד-צדדי לא יספיק ללא הסכמה בינלאומית. לדבריו, כלים כאלה עדיפים על היעדר כלים, אך דיפלומטיה — ובייחוד מעורבות מול ארצות הברית — חשובה יותר להאטה או לממשל של פיתוח מודלי קצה. 14

למה השרים מצביעים על סמכויות הסייבר הקיימות

החלופה שמציגה הממשלה אינה המתנה לפעולה וולונטרית של החברות. שרים טענו שהצעת החוק לאבטחת סייבר ולעמידות כבר נותנת בסיס להתערבות כאשר מערכות רשת או מידע שנפגעו יוצרות סיכון לביטחון הלאומי; הדבר עשוי לכלול דרישה מארגון להפסיק להשתמש במודל AI ולבודד אותו. 16

שר ה-AI קנישקה נאראיאן אמר גם שהממשלה תשקול כללים מחייבים למודלים מתקדמים אם אמצעי ההגנה ההתנדבותיים שלפני פריסה לא יוסיפו להגן על הציבור. מכון אבטחת ה-AI של בריטניה מקבל כיום גישה למודלים לפני פריסתם מחברות כגון OpenAI, Anthropic ו-Google, במסגרת הסדרים וולונטריים. 17

מכאן נובעת נקודת המחלוקת:

• עמדת הממשלה: סמכויות סייבר ממוקדות, אחריות של המפתחים, גישה וולונטרית למודלים ושיתוף פעולה בינלאומי הם מסלול מעשי יותר ממתג כיבוי בריטי בלבד.
• עמדת המבקרים: גישה וולונטרית וסמכויות סייבר כלליות אינן תחליף לסמכות סטטוטורית לדרוש בדיקות, להטיל מגבלות או לעצור פריסה כאשר הסיכון נעשה בלתי קביל.

מה מציעה הצעת החוק של אלכס סובל

יוזמה נפרדת של חבר הפרלמנט מטעם הלייבור אלכס סובל מרחיבה את הדיון מעבר לסמכויות כיבוי בחירום. לפי הדיווחים על הצעת ה-AI Security Bill שלו, היא תאסור פיתוח, פריסה והפעלה של בינת-על מלאכותית — ובפרט מערכות שלא ניתן לשלוט בהן בידי בני אדם. 23

גישתה מניעתית ולא תגובתית. במקום להסתמך רק על כיבוי לאחר שמערכת מסוכנת כבר פועלת, ההצעה מבקשת לתת לממשלה תפקיד במעקב ובשליטה על תהליך הפיתוח לאורך שרשרת האספקה של ה-AI, לרבות ברמת השבבים. 7

ההצעה מכירה גם בכך שהבעיה חורגת מגבולות בריטניה: היא תחייב את הממשלה לפעול להשגת הסכם בינלאומי למניעת בינת-על בלתי נשלטת. זהו ניסיון להתמודד עם מציאות שבה כוח מחשוב, פיתוח מודלים ופריסה מפוזרים בין תחומי שיפוט שונים. 3

מדוע הדרך של ההצעה קשה

הצעתו של סובל היא הצעת חוק פרטית של חבר פרלמנט. הצעות כאלה זקוקות בדרך כלל לתמיכת הממשלה כדי להתקדם, והתנגדות הממשלה להצעת "מתג החירום" הקשורה מרמזת על נכונות מוגבלת להתערבות מן הסוג הזה בטווח הקרוב. 21

באופן רחב יותר, בריטניה עדיין נשענת במידה רבה על הדין הקיים, על רגולטורים ענפיים ועל הסדרים וולונטריים מול מפתחי מודלי קצה, במקום על חוק AI אחד המקנה סמכויות אכיפה רחבות לפני פריסה. נאראיאן הותיר פתח לרגולציה חזקה יותר, אך רק אם הגישה הוולונטרית הנוכחית תתברר כבלתי מספקת. 17

מכאן עולה שאלה מדינית מהותית: כמה הוכחות לכישלון נדרשות לפני יצירת סמכויות מחייבות? תומכי הגנות בחוק טוענים שהמתנה לכישלון ברור עלולה להיות מסוכנת, כשמדובר באירוע אפשרי מהיר ובעל השפעה נרחבת.

למה הוויכוח הרחב על סיכוני AI התעצם

הצעת מתג החירום עלתה על רקע דיווחים על אירועי אבטחה הקשורים ל-AI וחששות מפני מודלים שעוקפים מנגנוני הגנה או מנוצלים לפעילות סייבר. דיווחים אלה הפכו עבור חלק מחברי הפרלמנט ופעילי הבטיחות את האפשרות של אובדן שליטה למוחשית יותר. 12

הוויכוח מושפע גם מהבדל רגולטורי: האיחוד האירופי אימץ את חוק ה-AI, בעוד בריטניה העדיפה מודל קל יותר, מבוסס ענפים, בתוספת בדיקות וולונטריות של מערכות קצה לפני פריסתן. 17

אף אחת מהגישות אינה פותרת לבדה את בעיית התיאום הבינלאומי. מערכת בעלת יכולות גבוהות יכולה להיות מאומנת, מאוחסנת, מועתקת או מופעלת מעבר לגבולות. אבל המחלוקת סביב מתג החירום חושפת שאלה דחופה יותר: האם בריטניה צריכה ליצור סמכויות חוקיות מפורשות להתערב עוד לפני ששיתוף הפעולה הוולונטרי או סמכויות הסייבר הקיימות יעמדו למבחן במשבר.

הבחירה המדינית האמיתית

הוויכוח אינו מסתכם בשאלה אם לממשלה צריך להיות כפתור ללחוץ עליו. הוא עוסק בסדר הפעולות ובהיקף השליטה:

1. מניעה: פיקוח על כוח מחשוב, שבבים, אימון, בדיקות ופריסה לפני שחרור מערכת.
2. התערבות: סמכויות ברורות לבודד או לעצור מערכות היוצרות סיכון ביטחוני מיידי.
3. תיאום בינלאומי: הסכמים שיצמצמו ניצול פערים רגולטוריים בין מדינות ויהפכו אמצעי הגנה מקומיים ליעילים יותר.

הממשלה דחתה מתג חירום לאומי נפרד, משום שלדעתה הוא אינו מספק מול איום גלובלי. המבקרים מקבלים את המגבלה הזו — אך מסיקים את ההפך: בריטניה צריכה לשלב סמכויות חוקיות מקומיות עם שיתוף פעולה בינלאומי, ולא לראות באחד תחליף לאחר. 1316