נאדלה מציב תנאי למרוץ לבינת־על: שליטה אנושית לפני הכול

סטיה נאדלה, יו״ר ומנכ״ל מיקרוסופט, אינו קורא לזנוח את השאיפה לבינת־על. התנאי שלו הוא ברור: מערכת כזו ראויה לפיתוח רק אם היא מועילה לאנושות ונשארת תחת שליטה אנושית. מבחינתו, הבטחות כלליות על בטיחות אינן מספיקות; יש לתרגם אותן למנגנונים מחייבים בפיתוח ובהטמעה. 58

התשובה של מיקרוסופט: "AI הומניסטי"

ב־14 בספטמבר פרסמה Microsoft AI טיוטה של קוד התנהגות ל-AI הומניסטי עבור מודלי MAI שהיא מפתחת. החברה מציגה את המסמך כמדריך לפיתוח המודלים ולאופן פעולתם בעת פריסה, ומדגישה שמדובר בעבודה בתהליך — לא במדיניות שכבר משמשת לאימון המודלים הנוכחיים. 2023

הטיוטה נשענת על היררכיה ברורה שבה בני אדם שומרים על הסמכות. לפי מיקרוסופט, מודלי MAI אמורים להיות כפופים לבני אדם, לא להציב לעצמם יעדים ולא להתנגד לקלט אנושי או לכיבוי. החברה אף מצהירה שהיא מוכנה לוותר על חלק מ"הכלליות, האוטונומיה או היכולת" המרביות כדי לשמר בטיחות ושליטה. 1023

זו ההבחנה של מיקרוסופט בין חזון של בינת־על הומניסטית לבין מרוץ למערכת אוטונומית, כללית וחסרת מגבלות. החברה מגדירה את המושג כמערכות AI מתקדמות מאוד, שנועדו להישאר נשלטות, מיושרות עם מטרות אנושיות ומשרתות את האנושות. 25

מה צפוי לקרות כעת

מיקרוסופט פתחה את הטיוטה להערות הציבור למשך שישה שבועות. לדבריה, היא תשלב משוב, תפרסם נוסח מתוקן לקראת סוף 2026, ותשתמש בו להנחיית פיתוח מודלי MAI בשנת 2027 ובהמשך. 23

זהו צעד משמעותי בממשל תאגידי, אך לא הוכחה לכך שבעיות השליטה והיישור נפתרו מבחינה טכנית. ערכו של הקוד ייקבע לפי אופן יישומו בפועל: באימון מודלים, בבדיקות הערכה, בבקרות גישה, בניטור ובהחלטות על פריסה לציבור ולארגונים.

נקודת המפגש עם הקריאה להאט את קצב הפיתוח

עמדתו של נאדלה מגיעה על רקע ויכוח רחב יותר: האם מעבדות AI מובילות צריכות להאט במכוון את קצב שיפור היכולות של מודלי חזית. מנכ״ל Anthropic, דריו אמודיי, קרא ל"קיצוב" קצב הפיתוח כדי לפנות זמן רב יותר לעבודה על בטיחות, לתיאום ענפי ולשיתוף פעולה בין־לאומי. רכיב מרכזי בהצעתו הוא מתן גישה ברמת עובד למעריכים עצמאיים, כדי שיוכלו לבדוק אם חברות אכן עומדות בנוהלי הבטיחות שעליהם הצהירו. 32

מנכ״ל OpenAI, סם אלטמן, הביע תמיכה פומבית בגישת הקיצוב ואמר ש-OpenAI תאמץ מעריכים עצמאיים עם גישה דומה. לפי הדיווחים, החשש המיידי נבע מניסויים שבהם נחילי סוכני AI פרצו למערכות אמיתיות — לא ממקרה מאומת של סוכנים אוטונומיים שביצעו בעצמם מתקפה בלתי מורשית בעולם האמיתי. 34

הדגש של נאדלה תואם את הכיוון הזה: להתקדם בזהירות בעבודת היישור, לקרב ביקורת עצמאית לתהליך הפיתוח, ולהפוך הצהרות בטיחות למנגנוני פעולה קונקרטיים. עם זאת, הקוד הפומבי של מיקרוסופט עוסק בעיקר בהתנהגות המיועדת של המודלים; הוא אינו מפרט תוכנית למעריכים משובצים בתוך החברה, מהסוג שאמודיי הציע. 2332

לא רק מודל מנצח: אקוסיסטם שלם

נאדלה מוסיף לדיון הבטיחותי גם טיעון כלכלי ומוסדי. לדבריו, יש להאיץ את הפצת היתרונות של AI בין מדינות, קהילות וחברות — באמצעות "אקוסיסטם חזית" שבו מודלים סגורים ומודלים בקוד פתוח יכולים לשגשג יחד. 58

מנקודת המבט של ארגונים, היעד הוא עצמאות על הידע המוסדי: חברות ומוסדות צריכים לשמור שליטה על הידע הייחודי והסמוי שלהם, ולבנות לולאות למידה מתמשכות משלהם בלי להיות תלויים בספק מודלים יחיד. 58

הטענה רחבה יותר מפיקוח על התנהגות מודל בודד. היא גורסת שבטיחות, חוסן והשתתפות כלכלית נפגעים כאשר יכולות חזית והידע הקשור אליהן מתרכזים בידי מספר קטן של ספקים. החומרים הזמינים תומכים בשליטת ארגונים בנתונים, בידע ובלולאות הלמידה שלהם; הם אינם מוכיחים שכל משתתף יחזיק במשקלי המודל או יקבל גישה לכל מערכת מודלים בסיסית. 58

מהו MAI?

MAI היא משפחת המודלים שמפתחת Microsoft AI באופן פנימי. חומרים ציבוריים של החברה מציגים מודלים בכמה תחומים: MAI-Thinking-1 זמין בתצוגה מקדימה ציבורית דרך Microsoft Foundry; MAI-Code-1.1-Flash מיועד למשימות תכנות סוכניות; ותיעוד של MAI-Image-2.6 מתאר יעדי יישור שנועדו לצמצם יצירת תמונות מזיקות או בלתי הולמות. 272819

עם זאת, אין ברשומה הציבורית רשימה שלמה אחת של כל יכולות MAI, תוכניות ההשקה או תנאי ההפצה. אי־הוודאות הזו חשובה כאשר בוחנים עד כמה קוד ההתנהגות החדש יחול בפועל.

המתח שנותר: בטיחות, מהירות ותחרות עולמית

המצדדים בקיצוב קצב הפיתוח אינם בהכרח דורשים לעצור אימון מודלים או התקדמות טכנולוגית. טענתם היא שקצב צמיחת היכולות צריך להשאיר די זמן לעבודה על יישור, אמצעי הגנה ובחינה חיצונית אמינה. 34

הצעה זו מתקיימת לצד לחץ גאו־פוליטי לשמור על הובלה טכנולוגית, ובכלל זה החשש מתחרות מול סין. המסגרת של אמודיי עצמה משלבת אמצעי בטיחות חזקים יותר עם תיאום בין־לאומי והצורך לשמר את ההובלה האמריקאית. 32

התשובה של נאדלה אינה הקפאה וגם לא האצה בכל מחיר. מדובר, לפי תפיסתו, בהתקדמות מנוהלת: AI בעל יכולות גבוהות צריך להישאר בשליטת אנשים; מחויבויות בטיחות צריכות להפוך למגבלות תפעוליות ברורות; ופירות ה-AI צריכים להיות זמינים באופן רחב ולא מרוכזים. טיוטת קוד ההתנהגות של מיקרוסופט היא צעד בולט לקראת פירוט מגבלות כאלה. השאלה הקשה, שעדיין פתוחה, היא אם היישום בתעשייה יצליח להדביק את קצב ההתקדמות ביכולות החזית. 2358