טראמפ דוחה האטה במרוץ ה-AI מול סין, בעוד אמודיי קורא לפיקוח קבוע

דונלד טראמפ מציג את הוויכוח על בינה מלאכותית מתקדמת בראש ובראשונה כתחרות מול סין. בהתבטאויות פומביות אמר שארצות הברית חייבת להישאר מובילת התעשייה, משום ש״מי שמנצח ב-AI מנצח״. בהמשך הוא כינה את הטענה שבינה מלאכותית עלולה להשתלט על העולם או להשמיד את האנושות „מתיחה”, ותיאר את ההתנגדות ל-AI ולמרכזי נתונים כ״קנוניה חולנית״ שמסייעת לסין. 1719

למה טראמפ תקף את דַריוֹ אמודיי

תגובתו של טראמפ הגיעה לאחר שמנכ״ל Anthropic, דַריוֹ אמודיי, קרא להאט במכוון את קצב השיפור של מערכות ה-AI החזקות ביותר. שתי העמדות יוצאות מנקודות מוצא שונות: טראמפ מדגיש שמירה על העליונות הטכנולוגית של ארה״ב, ואמודיי טוען שיכולות המודלים מתקדמות מהר יותר מהיכולת לבנות מנגנוני בטיחות ופיקוח אפקטיביים. 17

טראמפ גם טען שכבר קיימות סמכויות פליליות ורגולטוריות נרחבות כלפי החברות, ושנשיא חזק הוא אמצעי ההגנה הנדרש. לכן הביקורת שלו על אמודיי שילבה ספקנות כלפי אזהרות על סיכון קיומי עם חשש שהגבלות רשמיות יחלישו חברות אמריקאיות מול מתחרות סיניות. 1921

מה מציע המאמר „We Must Pace the Frontier”

אמודיי לא הציע להפסיק את מחקר ה-AI. התוכנית שלו, בת שלושה חלקים, קוראת להאט את הזינוק הבלתי מרוסן ביכולות המודלים, כך שעבודת בטיחות, בדיקות וממשל יוכלו להדביק את הקצב.

1. מעריכים עצמאיים קבועים בתוך מעבדות ה-AI המתקדמות. Anthropic הודיעה כי תעניק למעריכים מצד שלישי גישה מתמשכת ברמת עובד למערכותיה. תפקידם יהיה לוודא עמידה בנהלי בטיחות, לדווח על תקריות ולהעריך את התאמת המודלים למטרותיהם במהלך האימון. 16
2. תיאום בין חברות שמפתחות מערכות AI בחזית הטכנולוגיה. התוכנית קוראת למעבדות המובילות לקבוע תקני בטיחות משותפים ומגבלות על פיתוח לא מבוקר, במקום להתחרות רק על שיפור מהיר יותר ביכולות.
3. שיתוף פעולה בינלאומי. אמודיי טען שניהול הסיכונים החמורים ביותר של AI יחייב בסופו של דבר שיתוף פעולה מעבר למדינה אחת או לגוש אחד.

הסעיף הראשון הוצג כהתחייבות מיידית של Anthropic, ולא רק כהמלצה לממשלות או למתחרות. 16

כך הגיבו מנהיגים אחרים בתעשייה

מנכ״ל OpenAI, סם אלטמן, אמר שהוא מסכים שיש לווסת את קצב ההתקדמות בחזית הטכנולוגית, ושגם OpenAI תאפשר גישה למעריכים חיצוניים. אילון מאסק, שמוביל את xAI, אמר אף הוא שהוא מסכים עם אמודיי.

מנכ״ל מיקרוסופט, סאטיה נאדלה, בירך על האטה מכוונת ועל שילוב מעריכים בתוך הארגונים, אך הוסיף תנאי מהותי: הפיקוח אינו יכול להיות בידי קומץ חברות בלבד. לדבריו, כל מרדף אחר בינת-על חייב להועיל לאנושות ולהישאר בשליטה אנושית.

התגובות הללו אינן יוצרות משטר רגולטורי משותף ומלא. עם זאת, הן מצביעות על תמיכה של כמה מבכירי הענף בבדיקה פורמלית ומתמשכת יותר של המערכות המתקדמות ביותר.

בעיית התיאום: סין והסכנה שבהאטה חד-צדדית

ג׳ייקוב קוקסון, חוקר לשעבר ב-Anthropic וב-OpenAI, אמר שאנשים שבונים את המערכות האלה „באמת מפוחדים” לעתיד האנושות. הוא בירך על רעיון ההאטה, אך הדגיש שהיא תצטרך להיעשות בתיאום עם סין. 1

זו ליבת המחלוקת: חברה או מדינה שמאטה לבדה חוששת לאבד יתרון למתחרים שלא יעשו זאת. משרד החוץ הסיני דחה את קריאתו של אמודיי להגבלות הנוגעות ליכולות ה-AI של סין, והציג אותה כניסיון אמריקאי לבלום את סין — ולא כממשל בטיחותי ניטרלי. 4

מכאן נובעת בעיית אמון: תומכי הכללים רואים בהסדרים הדדיים דרך לצמצום סיכונים; מתנגדיהם עשויים לראות באותם כללים מנגנון לשימור היתרון הטכנולוגי של הצד השני.

הטענה: בטיחות עלולה להגן על המובילות

המשקיע מייקל ברי כינה את קמפיין ההאטה „משרת את עצמו”. לטענתו, פיתוח איטי יותר ודרישות ציות כבדות יותר עשויים לסייע לחברות AI מבוססות, משום שהם מקשים על מתחרות חדשות להיכנס לשוק. הוא גם חלק על ההנחה שמודלי השפה הגדולים הקיימים נמצאים בדרך לבינה מלאכותית כללית, AGI.

הביקורת הזו אינה מפריכה את חששות הבטיחות, אך היא מצביעה על סיכון מדיניות מעשי: כללים שנועדו להפוך פיתוח של מערכות קצה לבטוח יותר עלולים גם לבצר את כוחן של החברות שמצוידות טוב יותר לעמוד בהם. מסגרת אמינה תידרש להתמודד הן עם בטיחות והן עם ריכוז כוח.

מדוע הפגישה המתוכננת בין טראמפ לשי הייתה חשובה

טראמפ ומנהיג סין שי ג׳ינפינג היו צפויים לדון בממשל AI בפגישה שתוכננה ל-24 בספטמבר. 4 חשיבותה נבעה מכך שהחלק הקשה ביותר בכל אסטרטגיית בטיחות ל-AI מתקדם אינו ניסוח כלל עבור מעבדה אחת, אלא יצירת הסדרים שמעצמות יריבות תופסות כהדדיים וברי-אכיפה.

המסגור של טראמפ, שמעמיד את סין במרכז, וההתנגדות של בייג׳ינג להגבלות על פיתוח ה-AI שלה המחישו עד כמה קשה יהיה להגיע להסכמה. לכן הדיון רחב יותר מבחירה פשוטה בין האצה להשהיה: זו מחלוקת על השאלה אם אפשר לנהל את מרוץ ה-AI בלי להפוך את מדיניות הבטיחות לזירה נוספת של תחרות גאו-פוליטית. 174