האם הדיון על סכנות הבינה המלאכותית משרת גם את ענקיות הטכנולוגיה?

בריאיון ל-Le Monde ב־24 בספטמבר טען ארתור מנש, מנכ״ל חברת הבינה המלאכותית הצרפתית מיסטרל AI, שענקיות אמריקאיות מנצלות את הפחד מהטכנולוגיה. לדבריו, ״בינה מלאכותית היא תוכנה. אפשר לשלוט בה״. זו התערבות משמעותית בוויכוח על בטיחות AI, אך לא הכרעה בו: אזהרה יכולה לתאר סיכון אמיתי ובה בעת לשרת את האינטרס העסקי של מי שמשמיע אותה.29

מי קובע מה נחשב פיתוח אחראי?

השאלה שמנש מעלה אינה רק אם יש סכנות, אלא מי מעצב את הכללים להתמודדות איתן. אם החברות הגדולות יקדמו דרישות בטיחות שלהן קל יותר לעמוד בהן מאשר למתחרות קטנות, הכללים עלולים לחזק את מעמדן. זהו חשש תחרותי שצריך לבדוק — לא הוכחה לכך שהסיכונים הומצאו.29

גם מיסטרל אינה טוענת שהפעלת מערכות AI חפה מסיכון. החברה הזהירה שמודלים נעשים גורמים בעלי השפעה כאשר מעניקים להם עצמאות בביצוע משימות וגישה לכלים, ושפריסה בטוחה שלהם מחייבת זהירות. לכן אמירתו של מנש על האפשרות לשלוט ב־AI היא עמדה בעד ניהול סיכונים, לא הוכחה שכל מערכת עתידית תהיה ניתנת לשליטה.72

מדוע אי אפשר לפטור את האזהרות

בתחילת ספטמבר הזהיר ג׳ייקוב קוקסון, חוקר לשעבר ב־Anthropic שעבד קודם לכן ב־OpenAI, כי AI ״עלולה להרוג את כולנו עד סוף העשור״. בהמשך קרא מנכ״ל Anthropic, דריו אמודיי, להאטה מרצון בפיתוח המודלים המתקדמים ביותר. לפי Le Monde, מתחרות אמריקאיות מובילות תמכו בקריאתו מ־12 בספטמבר.18

אלה אזהרות והצעות שיש להתייחס אליהן ברצינות, אך הן אינן תחזיות שהוכחו. דבריו של קוקסון מתארים אפשרות, לא מועד ודאי. גם התמיכה בהאטה אינה מוכיחה, כשלעצמה, שהיא תפחית סיכון טוב יותר מאמצעי הגנה ממוקדים.18

הוויכוח אינו מתחלק בפשטות לאירופה מול ארה״ב: ג׳פרי הינטון קרא לפעולה מהירה יותר בתחום אמצעי ההגנה, בעוד אנדרו נג ערער על הראיות שמאחורי מסרים המדגישים תרחישי אסון והתנגד לקריאות גורפות לעצור את ההתקדמות. המחלוקת ביניהם מחדדת את השאלה המעשית: אילו סיכונים כבר הודגמו, ואילו צעדים עשויים לטפל בהם?

ומה בנוגע לתביעת ההגבלים העסקיים?

מנויים לשירותי AI הגישו תביעה הטוענת כי Anthropic, OpenAI, SpaceXAI וגוגל הסכימו להגביל את מאמצי הפיתוח המתחרים בעקבות הקריאה להאטה ב־12 בספטמבר. זו טענה משפטית, לא קביעה שהחברות הגיעו להסכם בלתי חוקי. העובדה שמנהלים מביעים חששות דומים בנושא בטיחות אינה מוכיחה, לבדה, תיאום ביניהם.

הביקורת של מנש והתביעה מעלות שאלות קשורות אך שונות: האם שיח בטיחות עשוי להיטיב עם החברות המבוססות, והאם מתחרות אכן הסכימו להאט את הפיתוח. הדרך לבחון צעדי בטיחות היא לדרוש ראיות שניתן לבדוק באופן עצמאי ליעילותם, ואז לשאול אם עלותם מכבידה במיוחד על מתחרים פוטנציאליים. אותה בדיקה צריכה לחול גם על הטיעון של מיסטרל בעד המשך הפיתוח. אינטרס מסחרי הוא סיבה לבחון טענה בקפידה — לא לפסול אותה מראש.789