מה התכוון אנטולי יאקובנקו כשעקץ: „רווחיות בשווי שוק של טריליון דולר”

התגובה הקצרה של אנטולי יאקובנקו — „Profitability at $1 trillion mcap” — נשמעת כמו עקיצה ספקנית כלפי התמריצים שמאחורי הקריאות להאט את פיתוח הבינה המלאכותית המתקדמת. מייסד־השותף של סולאנה רמז, לכאורה, שמדיניות בטיחותית של האטה עשויה גם להתאים לאינטרסים העסקיים של חברות AI בעלות שווי עצום, שצריכות להפוך את עלויות הפיתוח הכבדות לרווחים יציבים. זו פרשנות לדבריו, לא הוכחה לכך ש-Anthropic, OpenAI או חברה אחרת פעלו מהמניע הזה. יאקובנקו לא נקב בשם חברה, לא הציג נתונים פיננסיים ולא קשר את סולאנה או את המטבע SOL למחלוקת. 3541

מה בדיוק הייתה הביקורת של יאקובנקו?

הקיצור mcap פירושו שווי שוק. בהקשר הזה, האמירה של יאקובנקו מצביעה על מתח שמבקרים מזהים לעיתים בהצעות לריסון כלל־ענפי: כלל שמאט את כולם עשוי להיות קל יותר לעיכול עבור מעבדות AI מבוססות, עשירות וממומנות היטב — מאשר עבור מתחרות קטנות יותר.

ביקורת ההמשך שלו, לפי הדיווחים, לעגה לרעיון שקבוצה מצומצמת של מנהיגי AI תקבע יחד את קצב ההתקדמות של התחום כולו. הטענה העקרונית היא שמסגרת בטיחות יכולה להיתפס כתיאום המיטיב עם שחקנים קיימים — או כלכידת רגולציה — כאשר אותן חברות שעשויות להרוויח מההגבלות משתתפות בקביעתן.

עם זאת, אין לבלבל בין הביקורת הזאת לבין תיאור מוכח של מניעיו של דאריו אמודיי. החומר הקיים תומך בכך שיאקובנקו הטיל ספק במניעי ההצעה, אך אינו מוכיח שלחצי רווחיות, ניהול שווי, עלויות תשתית או שאיפות להנפקה גרמו ל-Anthropic לקרוא להאטה. 3543

מה כוללת למעשה תוכנית „קצב מבוקר לחזית”?

במסה שפרסם ב־12 בספטמבר, We Must Pace the Frontier, מנכ״ל Anthropic דאריו אמודיי טען שיש להאט את קצב השיפור ביכולות ה-AI, כדי שמחקר הבטיחות, עבודת היישור והבדיקה החיצונית יוכלו להדביק את הקצב. הוא הדגיש במפורש ש״קיצוב הקצב״ אינו פירושו עצירת אימון מודלים או עצירת ההתקדמות הטכנולוגית. 7

התוכנית נפרשת בשלושה שלבים:

1. בודקים חיצוניים משובצים: מעבדות AI בחזית יעניקו לבודקים עצמאיים גישה רציפה, הדומה לגישת עובדים, כדי לבחון אמצעי הגנה, להעריך יישור במהלך האימון ולדווח על תקריות. Anthropic הודיעה כי תאמץ את הצעד הזה באופן חד־צדדי. 716
2. תיאום בין מדינות דמוקרטיות: מעבדות AI וממשלות במדינות דמוקרטיות יפעלו לקידום תקני בטיחות משותפים ומגבלות קצב. 7
3. הסכמות בינלאומיות מוגבלות: ממשלות ינסו להגיע להסדרים מצומצמים עם מדינות אחרות — ייתכן שגם עם סין ומשטרים סמכותניים — בתחומים שבהם אפשריים אימות וריסון הדדי. 78

ההבחנה חשובה: הצעד הראשון הוא התחייבות קונקרטית ברמת החברה. שני השלבים האחרים תלויים בתיאום בין חברות וממשלות, ולכן הם הצעות ולא מדיניות שכבר נכנסה לתוקף. 9

מדוע עלתה טענת ה„קרטל”?

המחלוקת אינה רק בשאלה אם חברות צריכות לבדוק את המודלים שלהן בקפדנות רבה יותר. השאלות הן מי קובע את הקצב, אילו תוצאות בדיקה מחייבות עיכוב, והאם תקנים מתואמים עלולים להגביל מתחרים.

דיוויד סאקס טען כי Anthropic ו-OpenAI אינן זקוקות לאישור כדי להאט בעצמן את הפיתוח, אם הן חושבות שהמערכות שלהן מסוכנות. התנגדותו הייתה לניסיון להפוך דאגות בטיחות למסגרת רגולטורית או אנטי־מונופוליסטית רחבה יותר, שעלולה לחייב גם מתחרים. סאקס תיאר את הסיכון כ״דואופול״ של חברות מובילות שמשתמש בכללים כדי להגן על מעמדו. 5052

זו הגרסה החזקה ביותר של החשש שעומד מאחורי עקיצתו של יאקובנקו: התחייבויות בטיחות וולונטריות הן דבר אחד; הגבלות מתואמות לכל הענף עשויות לשנות לא רק את נוהלי הבטיחות, אלא גם את תנאי התחרות.

מה תמכו אלטמן ומאסק?

סם אלטמן אמר ש-OpenAI מסכימה לצורך ב״קצב מבוקר לחזית״, וכינה את רעיון הבודקים העצמאיים בעלי גישה דמוית־עובד „רעיון מצוין”; הוא הוסיף ש-OpenAI תעשה אותו דבר. אילון מאסק הגיב בקצרה: „Dario is right” — „דאריו צודק”. 1821

אף אחת מהתגובות האלה לא הכריעה, בפני עצמה, את השאלות הקשות יותר סביב תיאום בינלאומי, מגבלות קצב אכיפות או מסגרת ענפית משותפת. התמיכה הפומבית שלהן נגעה בבירור הרב ביותר לרעיון של בודקים משובצים. 1820

הפרטים שעדיין חסרים

פיקוח חיצוני קבוע מקבל משמעות מעשית רק כאשר כללי ההפעלה שלו ברורים. בחומר הזמין נותרו שאלות פתוחות מרכזיות:

• עצמאות: מי בוחר ומממן את הבודקים, ומה מבטיח שהם עצמאיים מהמעבדה שהם בודקים?
• היקף הגישה: לאילו מערכות, תהליכי אימון, דוחות תקרית, משקלי מודל, נתונים וכלים פנימיים יכולים הבודקים להיחשף?
• זכות פרסום: האם בודקים יכולים לפרסם ממצאים שליליים בלי אישור החברה?
• ספי החלטה: איזו תוצאת בדיקה או רמת סיכון תחייב דחייה של אימון, פריסה או שחרור מודל?
• אכיפה: מי מבטיח שחברה תפעל לפי ממצאי הבודקים?
• תחרות ואבטחה: איך מתאמים תקני בטיחות בלי להחליף מידע מסחרי רגיש או ליצור בעיות של הגבלים עסקיים?
• אימות בינלאומי: מה יהפוך הסכם עם סין או עם ממשלות אחרות לאמין וניתן לאימות?

הפערים האלה מסבירים מדוע מבקרים חוששים מכללים עמומים הנשלטים בידי שחקנים קיימים, בעוד תומכים רואים בתוכנית ניסיון הכרחי להפוך הצהרות בטיחות לביקורת חיצונית מתמשכת. 1053

הפוליטיקה: האטה מדודה מול עצירה קשיחה

המחלוקת הציבורית חשפה גם תפיסות שונות לגבי התגובה הנדרשת לסיכוני AI. הסנאטור ברני סנדרס פירש את ההתכנסות בעמדותיהם של אמודיי, אלטמן ומאסק כתמיכה בהתערבות חריפה יותר: השהיית AI ואיסור על בינת־על. 48

הצעתו של אמודיי הייתה צרה יותר מאיסור גורף: היא קראה לקצב מאוזן שיאפשר זמן ליישור ולאימות. 7 סאקס, מנגד, טען שחברות החוששות מסיכון צריכות להאט מרצונן, ולא לבקש מסגרת מתואמת שתחול על אחרים. 52

עסקת המדיניות שבלב הוויכוח פשוטה להגדרה אך קשה לפתרון: האטת מעבדות ה-AI המובילות בארה״ב עלולה לעורר חשש לפגיעה בכושר התחרות מול סין; מנגד, מרוץ בלתי מרוסן עלול להשאיר את הבדיקה והפיקוח מאחור, ביחס להתקדמות היכולות. המסגרת של אמודיי ניסתה להתמודד עם שני הלחצים באמצעות פיקוח מדורג ותיאום בינלאומי עתידי, אך מרכיביה המכריעים עדיין חסרים מנגנון אכיפה מוסכם. 74

השורה התחתונה

המשפט של יאקובנקו אינו ממצא פיננסי אלא פרובוקציה על תמריצים. הוא מציג את הדחיפה להאטת AI כמהלך שעשוי להתיישב גם עם האינטרסים המסחריים של מעבדות חזקות, המבקשות להגן על שווי גבוה ולהוכיח בסופו של דבר רווחיות. התיעוד הציבורי שסופק אינו מבסס את ההאשמה הזאת, ואינו מוכיח ששאיפות להנפקה הן סיבה להצעה.

מה שכן קונקרטי הוא צר יותר: Anthropic התחייבה לשלב בודקים חיצוניים, OpenAI הביעה תמיכה פומבית בגישה זו, והתוכנית הרחבה יותר להגבלות בטיחות מתואמות עדיין שנויה במחלוקת. השאלה המרכזית אינה אם יש לבחון AI מתקדם בקפדנות רבה יותר — אלא אם החברות הקרובות ביותר לחזית צריכות להיות שותפות לקביעת הכללים שיקבעו מי יכול להתחרות בה. 71850