קרני מציע גוף עולמי ליציבות טכנולוגית: פיקוח על בינה מלאכותית בלי לבלום את המרוץ

מארק קרני, ראש ממשלת קנדה, קורא להקים מסגרת בינלאומית חדשה שתסייע לפקח על בינה מלאכותית ולתאם את פיתוחה הבטוח. הוא כינה את הרעיון "מועצה ליציבות טכנולוגית", שתפעל בהשראת מועצת היציבות הפיננסית (Financial Stability Board). 17

המסר של קרני אינו שיש לעצור את פיתוח הבינה המלאכותית. להפך: הוא מציג כללי הגנה מתואמים בין מדינות כמשהו שיכול לתמוך בפוטנציאל הכלכלי של AI ובהפקת ערך רחבה יותר ממנו. 17

מה בדיוק הציע קרני

קרני אמר שנדרש תיאום בינלאומי בתחום הבינה המלאכותית, ושמועצה ליציבות טכנולוגית תהיה צעד הגיוני. ההשוואה למועצת היציבות הפיננסית מצביעה על מודל של תיאום חוצה גבולות, ולא — לפחות בשלב זה — על רגולטור עולמי יחיד בעל סמכות ישירה. 17

פרטים מהותיים עדיין לא פורסמו: אין מידע מאושר על חברות בגוף, מנדט משפטי, דרך קבלת החלטות או מנגנון אכיפה. לכן מדובר לעת עתה בהצעה שמבקשת להציב את הנושא על סדר היום, ולא במוסד שכבר הוקם.

בין האטה, תחרות ותיאום

הצעתו של קרני מגיעה על רקע מחלוקת חריפה יותר סביב מערכות AI מתקדמות במיוחד.

אמודיי: להאט את קצב השיפור כדי לאפשר זמן לבטיחות

דריו אמודיי, מנכ"ל Anthropic, קרא לחברות AI להאט את הקצב שבו הן משפרות את יכולות המודלים שלהן. לטענתו, התעשייה זקוקה לזמן נוסף כדי להתמודד עם סיכוני שימוש לרעה. הוא הציע בדיקות בטיחות מחמירות יותר ותיאום כלל-ענפי; סם אלטמן, מנכ"ל OpenAI, ואילון מאסק, בעליה של xAI, הביעו תמיכה בקריאה. 4952

זו עמדה שמבקשת לווסת את קצב ההתקדמות בחזית הטכנולוגית: הפיתוח יימשך, אך המרוץ למערכות בעלות יכולות גבוהות יותר יואט.

טראמפ: תחרותיות לפני מגבלות חדשות

נשיא ארצות הברית דונלד טראמפ דחה את הצורך בהגבלות בטיחות נוספות ל-AI. לדבריו, לארצות הברית כבר יש כלים להסדיר את פעילותן של חברות בתחום ולהעמידן לדין. הוא כינה את קריאות התעשייה לרגולציה "תרמית" והדגיש את חשיבות התחרותיות הטכנולוגית של ארה"ב. 51

קרני: לקדם צמיחה, אך עם כללי הגנה מתואמים

קרני מציג קו שונה משני הצדדים. הוא לא קרא להאטה כלל-ענפית בפיתוח המודלים, כפי שעשה אמודיי; אך גם אינו שותף לדחיית הצורך בתיאום נוסף, כפי שמציג טראמפ. מבחינתו, ממשל בינלאומי בתחום הבטיחות יכול להפוך את הפיתוח והיישום של AI ליציבים ובעלי ערך רב יותר לאורך זמן. 174951

מדוע ההצעה עלתה דווקא בפסגת ההשקעות של קנדה

העיתוי אינו מקרי. פסגת ההשקעות הלאומית הראשונה של קנדה נועדה למשוך הון בינלאומי ליותר מ-160 פרויקטים, בתחומים כגון מרכזי נתונים, ייצור מתקדם, גז טבעי נוזלי, נמלים, כרייה, אנרגיה וטכנולוגיה דיגיטלית. 212

ממשלת קנדה הציבה יעד לעידוד השקעות בהיקף של יותר מטריליון דולר קנדי בחמש שנים. 212 תשתיות AI הן חלק מרכזי מההצעה למשקיעים: קמפוס מרכזי הנתונים המתוכנן של Meta במחוז סטרג'ן שבאלברטה מוגדר כהשקעה של 13 מיליארד דולר קנדי — ולא 14.5 מיליארד דולר קנדי, נתון שמופיע לעיתים — והוא מרכז הנתונים הראשון של Meta בקנדה. 15

ביחד, פסגת ההשקעות והצעת הממשל ל-AI מציגות את קנדה כמדינה שרוצה גם לבנות תשתיות בינה מלאכותית וגם לקדם כללים בינלאומיים ברורים יותר סביבה. זהו ניתוח הנובע מהצבת שתי היוזמות זו לצד זו, ולא טענה רשמית שלפיה המועצה המוצעת תפקח על פרויקטי ההשקעה בקנדה. 172

ברקע: ניסיון להפחית תלות בארצות הברית

הדחיפה להשקעות מתרחשת בזמן החרפה בעימות הסחר בין קנדה לארצות הברית. ארה"ב הטילה מכסים בשיעור 50% על סחורות קנדיות בהיקף של כ-20 מיליארד דולר אמריקאי. קנדה השיבה במכסים של 15% עד 50% על מוצרים אמריקאיים בהיקף של כ-28 מיליארד דולר קנדי. 3234

קרני אמר גם שקנדה צריכה להפחית את תלותה בארצות הברית ולהעמיק את קשריה עם אירופה. דיווחים תיארו את רצונו לקדם עם האיחוד האירופי "ברית ייחודית", שאינה שקולה לחברות באיחוד. 3439

בנסיבות האלה, משיכת הון לפרויקטי אנרגיה, תשתית וטכנולוגיה דיגיטלית מקבלת משמעות אסטרטגית לצד המשמעות העסקית: היא עשויה להרחיב את מקורות ההשקעה של קנדה בזמן שהיא מחפשת חלופות לתלות בשותפת הסחר הגדולה ביותר שלה.

המכשול המרכזי: הסכמה בינלאומית

האתגר הגדול ביותר של המועצה הוא פוליטי. גוף ליציבות טכנולוגית יזדקק לשיתוף פעולה של ממשלות וחברות שאינן מסכימות כיום אפילו על השאלה הבסיסית: האם מערכות AI מתקדמות דורשות כללי הגנה הדוקים ומתואמים ברמה הבינלאומית.

אמודיי, אלטמן ומאסק תמכו בהאטת קצב הפיתוח בחזית, כדי לפנות זמן לעבודה על בטיחות. טראמפ, מנגד, טען נגד מגבלות נוספות בשם התחרותיות האמריקאית. 4951

עד כה לא נמסר על תמיכה מחויבת במועצה שמציע קרני מצד ארצות הברית, סין, האיחוד האירופי או מעצמות AI אחרות. לכן נכון לראות בהצעה קריאה להתחיל לבנות מסגרת ממשל בינלאומית — ולא הסכם עולמי שכבר הושג. 17

השורה התחתונה

מועצת היציבות הטכנולוגית של קרני היא ניסיון לחבר בין ממשל על AI לבין השקעות ופריסה מהירה של הטכנולוגיה. היא דוחה את הרעיון שבטיחות מחייבת עצירה גורפת של ההתקדמות, אך גם את הטענה שכלים לאומיים קיימים מספיקים בפני עצמם.

השאלה אם דרך הביניים הזו תהפוך למוסד ממשי תלויה בנכונותן של מעצמות ה-AI להסכים שתיאום חוצה גבולות נחוץ גם בתוך מרוץ טכנולוגי תחרותי יותר ויותר.