לסקיר: האטת הבינה המלאכותית עלולה לנעול את ההובלה האמריקאית

רולאן לסקיר, שר האוצר הצרפתי, מציג את הוויכוח על קצב פיתוח הבינה המלאכותית לא רק כשאלת בטיחות, אלא גם כשאלת כוח והשפעה. בדברים שדווחו ב-16 בספטמבר הוא אמר כי הקריאות להאטה מגיעות מחברות שכבר נמצאות "בראש הכיתה" — ולכן האטת כל מי שמאחוריהן משרתת את האינטרס שלהן להישאר במקום הראשון. 2

הטיעון של לסקיר: יכולת היא גם דרך לנהל סיכון

לסקיר לא טוען שלבינה מלאכותית אין סיכונים. טענתו היא שצרפת ואירופה חייבות להרחיב את השימוש ב-AI ולבנות יכולת עצמאית, כדי להפוך למובילות שיוכלו לנהל את הסיכונים הללו. לפי תפיסה זו, תלות בספקיות זרות של מודלי חזית מותירה את אירופה עם פחות שליטה מעשית על אופן הפריסה, השימוש והפיקוח על הטכנולוגיה. 2

הדגש הזה עולה בקנה אחד עם אזהרה קודמת שלו: ריבונות אירופית בתחום ה-AI אינה יכולה להישען על חברה אחת בלבד. לסקיר קרא לבניית אקוסיסטם רחב, במקום לרכז את שאיפות הבינה המלאכותית של אירופה ב״אלופה לאומית״ אחת. 17

מדוע הגישה הזו מתנגשת עם הדרישה להאט את מודלי החזית

מנכ״ל אנתרופיק, דַריוֹ אָמוֹדֵיי, הציע להאט את הקצב שבו חברות AI משפרות את יכולותיהם של מודלי חזית — המודלים המתקדמים ביותר. מטרתו המוצהרת היא לפנות זמן לעבודת בטיחות ולממשל, ככל שהמודלים נעשים מסוגלים יותר. ההצעה כוללת מעריכים עצמאיים שיקבלו גישה מתמשכת למערכות, כדי לבחון עמידה בהתחייבויות בטיחות ובאירועים חריגים. 15

רויטרס דיווחה כי מנכ״ל OpenAI סם אלטמן נמנה עם מנהיגי התעשייה שביקשו האטה מתואמת, ולכן עמדתו קרובה יותר למרשם המיידי של אָמוֹדֵיי מאשר לגישת ההאצה של לסקיר. 4

לפיכך, המחלוקת אינה מסתכמת ב״מהירות מול בטיחות״. המחנה של אָמוֹדֵיי טוען שיש לרסן את קצב העלייה ביכולות כדי שמנגנוני ההגנה ידביקו את הפער; לסקיר טוען שאירופה חייבת לפתח ולאמץ AI במהירות, אם היא רוצה יכולת ממשית לעצב את כללי הפיקוח ולהתמודד עם תוצאות הטכנולוגיה. 12

מה הדיווחים מבססים — ומה לא

הדיווחים שסופקו מבססים את הטענה שאָמוֹדֵיי הזהיר מפני סוכני AI מתקדמים שעלולים להיות קשים לשליטה. בין השאר הוא תיאר תרחיש שבו נחיל סוכנים עשוי להשתלט על חלק ניכר מהאינטרנט בתוך שישה עד 12 חודשים. 39 הם גם מבססים את הטענה המצומצמת יותר שלפיה הצעתו נועדה לקצב את פיתוח מודלי החזית, ולא להביא להפסקה מוחלטת של העבודה בתחום ה-AI. 18

עם זאת, המקורות הזמינים אינם מאמתים כמה ייחוסים ספציפיים שנכרכו לעיתים בעימות הזה. הם אינם מאשרים שחוקרים באנתרופיק אמרו כי התקדמות מהירה ב-AI תגרום להכחדת האנושות. הם גם אינם מאשרים שלסקיר הצביע על סיכוני AI מסוימים בתחומי הסייבר או החינוך, או שטען כי תחזיות חד-משמעיות על סיכון קיומי יאפשרו לחברה להתחמק מאחריות קולקטיבית.

השאלה המעשית מבחינת אירופה

התערבותו של לסקיר ממחישה את המתח המדיני שעמו מתמודדות ממשלות שאינן נמנות עם מעצמות ה-AI המובילות: האטת פיתוח מודלי החזית עשויה לתת זמן נוסף לבקרות בטיחות, אך האטה מתואמת עלולה גם לשמר את יתרונן של החברות שכבר מחזיקות במודלים החזקים ביותר, בכוח המחשוב וביכולת הפריסה הרחבה ביותר. 12

התשובה של לסקיר היא לבנות יכולת אירופית, תוך שמירה על היכולת לנהל סיכונים. הדיווחים מבססים היטב את המחלוקת האסטרטגית הזו, אך אינם מבססים את הטענות הנוספות הנוגעות ספציפית לסייבר, לחינוך או להכחדה. 24