״שלום, איכרים״: העקיצה של סם אלטמן חושפת את משבר האמון של תעשיית ה-AI

ההתבטאות של מנכ״ל OpenAI סם אלטמן בפודקאסט ב-23 באוגוסט תפסה את המתח הגובר בתוך תעשיית הבינה המלאכותית. בתרחיש סאטירי שכינה למעשה ״שלום, איכרים״, הוא דמיין חברות שמעניקות לציבור תרופה לסרטן, שפע חומרי ובידור — ובתמורה מבקשות ממנו להפסיק להתלונן, לסמוך עליהן ולאפשר להן לקבל את כל ההחלטות על העתיד. 3242

זו לא הייתה מתקפה ישירה ומפורשת על מנכ״ל Anthropic, דאריו אמודיי. אולם היא הגיעה ימים ספורים לאחר שאמודיי טען כי החזרה על ההבטחה ש-AI תרפא סרטן כבר אינה מצליחה לעורר השראה בציבור. לדבריו, מה שישנה את דעתם של אנשים הוא לא עוד הבטחה — אלא פריצת דרך רפואית אמיתית. 1416

מה באמת התכוון אלטמן ב״שלום, איכרים״?

אלטמן לא בהכרח לעג לעצם האפשרות של רפואה טובה יותר או של שפע כלכלי שייווצר בעזרת AI. הביקורת שלו כוונה לעסקה פטרנליסטית: מצב שבו מנהיגי התעשייה מציגים שגשוג כפיצוי על כך שהציבור מאבד שליטה משמעותית על עתידו.

הדברים משתלבים בחששות נוספים שהעלה באותו פודקאסט. אלטמן הצביע על שני סיכונים שנמשכים לכיוונים שונים: מצד אחד, AI עלולה להפוך לחזקה כל כך שבני אדם לא יוכלו להבטיח שהם שולטים בה; מצד שני, קבלת ההחלטות עלולה להתרכז בידי מספר קטן של חברות, מודלים או אנשים. 3135

לפי המסגור הזה, הבעיה אינה טכנולוגית בלבד אלא גם פוליטית. עתיד יכול להיראות מוצלח מבחינה חומרית, ובכל זאת להשאיר אנשים מן השורה ללא יכולת להשפיע על המערכות שמעצבות את העבודה, הפרטיות והמוסדות שלהם.

מדוע הדברים הדהדו את הביקורת של אמודיי?

התגובה של אמודיי ב-15 באוגוסט הופנתה למטרה אחרת. המשקיע גאווין בייקר טען שהאזהרות החוזרות של אמודיי מפני הסכנות של AI תרמו לעוינות הציבורית כלפי הטכנולוגיה, ובכלל זה להתנגדות להקמת מרכזי נתונים. 722

אמודיי דחה את הרעיון שאסטרטגיית תקשורת אופטימית יותר תפתור את הבעיה. הוא תיאר את הספקנות הציבורית כ״משבר אמון ביסודו״ — תוצאה של חשדנות ארוכת שנים כלפי חברות, ממשלות ותעשיית הטכנולוגיה. 13

אמודיי גם מתח ביקורת חריגה בישירותה על התעשייה שלו עצמו. לדבריו, חברות AI, ובהן Anthropic, עדיין לא קיימו את ההבטחות הגדולות שלהן להועיל לעולם. מבחינתו, האמירה ש-AI תרפא סרטן הפכה לקלישאה שרבים רואים בה דבר מטעה; מה שישנה את דעת הקהל הוא ״באמת לרפא סרטן״. 814

כאן נפגשות שתי העמדות. שניהם מזהירים מפני בקשה מהציבור לקבל טענות מרחיקות לכת על בסיס אמונה בלבד. אלטמן מתמקד במחיר הפוליטי של ויתור על אוטונומיה. אמודיי מתמקד במחיר האמוני של הבטחות יוצאות דופן שעדיין לא קיבלו הוכחה במציאות.

למה אמודיי דחה את האופטימיות של בייקר?

האבחנה של בייקר הציגה את ההתנגדות ל-AI במידה רבה ככשל תקשורתי: לדבר פחות על סיכונים קטסטרופליים, להדגיש יותר את התועלות ולגרום לציבור לתמוך בטכנולוגיה ביתר קלות. תשובתו של אמודיי הייתה שחוסר האמון קדם להתבטאויות של מנהל כזה או אחר, ולכן אי אפשר לתקן אותו באמצעות קמפיין תדמיתי נוצץ. 17

אין פירוש הדבר שאמודיי דוחה את הפוטנציאל של AI. הוא טען שהטכנולוגיה עשויה לסייע בריפוי רוב המחלות האנושיות בתוך כחמש עד עשר שנים — תוך שהוא מודה שמדובר בטענה שנשמעת יוצאת דופן. 16

ההבדל הוא בין תחזית לבין תוצאה שכבר סופקה. אמודיי אומר שלתעשייה עשוי להיות טיעון חזק, אך הוא יישאר בלתי משכנע עד שאנשים יראו תוצאות מוחשיות ויבינו כיצד התועלות מתחלקות.

ואיפה נכנסת החזון של מארק צוקרברג?

מנכ״ל מטא, מארק צוקרברג, הציג עתיד אופטימי יותר. במאמר בן 6,500 מילים שכותרתו ״The Future is for Everyone״ הוא טען שסופר-אינטליגנציה תעצים את כולם וששפע של מקומות עבודה ימשיך להתקיים בעתיד. 1726

אך טיעון האמון של אמודיי מערער בעקיפין על ההנחה שחזון חיובי מספיק בפני עצמו. הציבור עדיין עשוי לשאול: מי שולט במודלים? מי יקבל את העושר שהם ייצרו? מי יישא בסיכונים? והאם למוסדות תהיה היכולת להטיל אחריות על החברות?

הספקנות הזו אינה מוגבלת לחששות בטיחות. דיווחים הצביעו גם על דאגות מפני אובדן משרות, אי-שוויון, פגיעה בפרטיות, תגמול יוצרים וההשפעות החברתיות של AI. בסקר שצוטט ב-WIRED, אמריקאים רבים הביעו עמדה שלילית יותר מחיובית כלפי הטכנולוגיה. 25

עם זאת, חשוב לדייק: הראיות מצביעות על מחלוקת רצינית סביב אמון וביטחון הציבור, אך אינן מוכיחות שהאזהרות של מנכ״ל מסוים גרמו להתנגדות למרכזי נתונים או מצביעות על גורם יחיד ומדוד לירידה בהתלהבות מתעשיית ה-AI.

הקרע העמוק יותר: הבטחות מול כוח

לכן המחלוקת בין אלטמן, אמודיי ומבקריהם אינה רק ויכוח על סגנון הדיבור.

• גישת האופטימיות תחילה: חברות AI צריכות להסביר טוב יותר את התועלות ולהימנע מכך שמסרים על סכנת הכחדה או אובדן משרות יגדירו את הטכנולוגיה. 730
• גישת האמון תחילה: הספקנות הציבורית משקפת משבר אמון שנבנה במשך עשרות שנים, ושיווק אינו יכול להחליף תועלות מוכחות, ממשל אמין ואחריותיות. 12
• גישת השליטה תחילה: גם עתיד משגשג אינו מקובל אם מספר קטן של חברות, מודלים או אנשים מקבלים את ההחלטות החשובות עבור כולם. 3537

המשפט של אלטמן על ״האיכרים״ הפך את הסתירה למוחשית: התעשייה עשויה להבטיח שפע, ובכל זאת להישמע כאילו היא מבקשת מהציבור להחליף את האוטונומיה שלו בנוחות. התגובה של אמודיי מוסיפה את החצי השני של הביקורת: גם הבטחות מיטיבות לא יחזירו את האמון, כל עוד הן אינן הופכות לתוצאות שאפשר לבדוק.

המסקנה המסתמנת פשוטה: מנהיגי ה-AI אינם יכולים להניח שפחד או אופטימיות, לבדם, ישכנעו את הציבור. האמון ייקבע לפי מה שהטכנולוגיה תספק, לפי מי שישלוט בה, לפי מי שייהנה מהרווחים — ולפי השאלה אם לאנשים יישאר קול משמעותי בעיצוב העתיד שנבנה עבורם.