גוגל מעבירה את צוות אחריות ה-AI מ-DeepMind: ומה עלול להשתנות

מה גוגל משנה?

גוגל מתכננת להעביר בתחילת ספטמבר את צוות AI Responsibility — קבוצה של כ-90 עובדים שעוסקת בסיכונים ובהשפעות החברתיות של בינה מלאכותית — מ-Google DeepMind לחטיבת Global Affairs של החברה. לפי הדיווחים, מטרת המהלך היא לקרב את עבודת הערכת הסיכונים לגורמי מדיניות, משפט, רגולציה וקשרי ממשל, בשעה ש-DeepMind משתלבת יותר ויותר בפעילות ה-AI הממוקדת במוצרים של גוגל. 53

המשמעות המעשית היא שהצוות כבר לא יהיה חלק מהמעבדה שמפתחת את מודלי ה-AI המתקדמים ביותר של החברה.

אילו סיכונים הצוות בוחן?

עבודת הצוות אינה מוגבלת לתקלות טכניות במודל. היא כוללת גם בחינה של סיכונים רחבים יותר, ובהם:

• אפשרות לשימוש לרעה במערכות AI בתחומים כימיים, ביולוגיים, רדיולוגיים וגרעיניים — המכונים יחד CBRN.
• סיכונים חברתיים והתנהגותיים הנובעים מהפצה רחבה של מערכות מתקדמות.
• השפעות פסיכולוגיות אפשריות של אינטראקציות ממושכות עם צ'אטבוטים, במיוחד במקרים שבהם משתמשים מפתחים תלות רגשית או מקבלים חיזוק לאמונות מזיקות. 5

מדוע העובדים מודאגים?

לפי הדיווחים, עובדים חוששים שהעברת הצוות ממעבדת מחקר לחטיבה תאגידית עלולה לפגוע בעצמאותו. החשש הוא שהצוות יתרחק ממקבלי ההחלטות שמפתחים ומאשרים מודלים חדשים, ושיהיה לו קשה יותר להעלות ממצאים לא נוחים או להסלים התרעות בנוגע לסיכונים שהתגלו.

חשוב להדגיש: אלה חששות של עובדים כפי שדווחו מתוך הארגון — לא הוכחה לכך שכבר הוטלו על הצוות מגבלות כאלה בפועל. 5

מה הצוות ישמור — ומה עדיין לא ברור?

הדיווחים מצביעים על כך שהצוות צפוי להמשיך לעסוק בסיכוני AI ובהשפעות החברתיות של המערכות. עם זאת, המידע הזמין אינו מספק תמונה מחייבת ומלאה לגבי:

• מספר העובדים והתקציב לאחר המעבר;
• מידת הגישה של הצוות למודלים ולנתוני פיתוח;
• חופש הפרסום של מחקריו;
• סמכותו להתריע בפני הנהלה בכירה או לדרוש בדיקה נוספת;
• סמכות רשמית לעכב או למנוע השקה של מודל.

לכן, בשלב זה אין די ראיות כדי לקבוע אילו אמצעי הגנה מעשיים יישמרו, או כדי לטעון שהצוות יאבד כל סמכות פורמלית לעצור השקות. 5

מי ימשיך לטפל בבטיחות בתוך DeepMind?

קבוצות אחרות ב-Google וב-Google DeepMind ימשיכו לעסוק בבקרות בטיחות תפעוליות וטכניות, כגון התנהגות המודל, פרטיות, אבטחה ובטיחות של מערכות AI. 67

כך נוצרת חלוקת עבודה ברורה יותר: בקרות טכניות ומוצריות יישארו קרובות לארגון שמפתח את המודלים, בעוד שעבודת מדיניות, ממשל, השפעה חברתית וקשרי רגולציה תתרכז יותר ב-Global Affairs.

החלוקה עשויה לשפר את התיאום עם גורמי ממשל ורגולציה, אך היא גם מחדדת שאלה ארגונית מרכזית: האם מי שמתריע על סיכונים נמצא קרוב מספיק למי שמחליט אם ומתי להשיק את המוצר?

איך השינוי קשור לדמיס הסביס ולמרוץ על Gemini?

המהלך מתרחש במקביל לארגון מחדש של הנהגת Google DeepMind. דמיס הסביס, ממייסדי DeepMind, ויתר על ניהול הפעילות היומיומית והפך ליו"ר Google DeepMind ולמדען הראשי של Alphabet. קוראי קבקוגלו, שהיה מנהל הטכנולוגיה הראשי של DeepMind והארכיטקט הראשי של ה-AI בגוגל, קיבל אחריות תפעולית רחבה יותר. 1346

במקביל, דיווחים מצביעים על העברת חלק מצוותי ה-AI מ-DeepMind אל גוגל התאגידית, על לחץ פנימי להתמקד בכל הכוח בפיתוח Gemini ועל עזיבה של בכירים וחוקרים מרכזיים. 34

מה מלמד המהלך על תעשיית ה-AI?

המהלך אינו מוכיח שגוגל זנחה את בטיחות ה-AI. הוא ממחיש מתח רחב יותר שמעסיק את המעבדות הגדולות: מצד אחד, מומחי בטיחות צריכים להיות קרובים מספיק לצוותי הפיתוח כדי להשפיע על תכנון המודלים; מצד שני, החברות מרכזות יותר ויותר את עבודת הסיכונים לצד משפט, מדיניות והטמעה — בזמן שהן מתחרות להשיק מערכות חזקות במהירות.

מבנה כזה עשוי להקל על יצירת מדיניות אחידה ועל התמודדות עם רגולטורים. אבל אם לא יוגנו במפורש גישה למודלים, חופש פרסום, ערוצי הסלמה וסמכות ברורה לבחינת השקות, הוא עלול להחליש — לפחות מבחינת העובדים והציבור — את העצמאות של המבקרים הפנימיים. 53