האם אי-תלות בבינה מלאכותית היא עניין של 24 חודשים? מנכ"ל מיסטרל ומנכ"ל פאלנטיר מזהירים מפני תלות במודלים סגורים

הנה ניתוח מבוסס-עובדות של הטיעונים, הראיות והטיעונים הנגדיים בנוגע לסיכוני השימוש במודלי בינה מלאכותית סגורים בארגונים.

האזהרה המרכזית של ארתור מנש: קוד פתוח מול קוד סגור

ארתור מנש, מנכ"ל מיסטרל (Mistral AI), טוען כי הקרב האמיתי בתחום הבינה המלאכותית הוא בין מערכות פתוחות למערכות סגורות, לא בין יבשות גיאוגרפיות . דיווחים זמינים מציגים את מיסטרל כמתמודדת אירופית מול ענקיות הטכנולוגיה האמריקאיות, ומתארים את החשש של מנהיגים אירופיים מפני פיגור בתחום ה-AI שיפגע בצמיחה ובתחרותיות של היבשת . המקורות תומכים בטענה הכללית שמנש קושר את הטיעון שלו לפתיחות ולמיצוב אסטרטגי אירופי, אך הם אינם מאששים את הטענה הספציפית שהוא נתן אולטימטום של "שנתיים בערך" לפני שהתלות בספקים אמריקניים תהפוך לבלתי הפיכה.

ריבונות נתונים וסיכון דליפת מידע ארגוני

דאגה מרכזית היא שארגונים המשתמשים בממשקי API של מודלים סגורים עלולים לחשוף מידע קנייני לספקית המודל. הביקורת של קרפ הזהירה במפורש שארגונים עלולים להיות חשופים לסיכונים לנתונים הקנייניים ולקניין הרוחני שלהם תוך תשלום עלויות טוקנים הולכות וגדלות למעבדות ה-AI המובילות . חשש זה משתלב יפה במסגרת הטיעון הפתוח-מול-סגור שמקדם מנש, אף שהמקורות הזמינים אינם מאששים באופן עצמאי את הטענה החזקה יותר לפיה נתונים ארגוניים מנוצלים בהכרח כחומר אימון על-ידי ספקיות המודלים הסגורים .

הביקורת המקבילה (והצבעונית יותר) של אלכס קרפ

מנכ"ל פאלנטיר (Palantir), אלכס קרפ, משמיע טיעון דומה אך בשפה חריפה בהרבה. דיווחים על דבריו מתארים כיצד כינה את מודל העסקי של מעבדות ה-AI המובילות "מטורף לחלוטין", תוך שהוא מבקר את עלויות הטוקנים המטפסות ואת הערך המוגבל לארגונים, ומזהיר מפני סיכונים לנתונים קנייניים ולקניין רוחני . מרכיבי המפתח בביקורת כוללים:

• אל תמסרו את הנתונים שלכם ביד קלה לחברות LLM — החשש הוא שמידע קנייני וקניין רוחני עלולים להיחשף כאשר הם מועברים דרך מערכות AI של צד שלישי .
• תמחור מבוסס טוקנים יוצר תמריצים לא נכונים — הביקורת של קרפ מתמקדת בכך שארגונים משלמים עלויות טוקנים הולכות וגדלות תמורת ערך מוגבל .
• ריבונות AI — הטיעון הרחב יותר הוא שארגונים וממשלות עשויים להעדיף מערכות שהן יכולות לשלוט בהן ישירות, במקום להסתמך לחלוטין על מעבדות AI חיצוניות .

המקורות הזמינים אינם מאששים את הטענה הספציפית שקרפ הזהיר שממשלות עלולות להלאים מעבדות AI מובילות.

ממד התלות האירופי

שתי האזהרות של מנש וקרפ נפגשות בנושא התלות האסטרטגית. דיווחים מתארים עלייה בעניין האירופי בפתרונות AI מקומיים על רקע חששות מפני דומיננטיות אמריקאית בתחום, ואומרים שחששות אלה מגבירים את העסקים של מיסטרל הצרפתית . הניו יורק טיימס מתאר גם הוא את מיסטרל כ"אלופה" אירופית בתחום ה-AI המנסה להתחרות בענקיות הטכנולוגיה האמריקאיות, ומציין את החששות האירופיים מפני פגיעה בתחרותיות אם היבשת לא תעמוד בקצב . המקורות תומכים בדאגה הכללית מפני תלות, אך לא בטענה הספציפית שמנש העיד על חוזי ענן ארוכי-טווח עם חברות חשמל או על "סף קריטי" של שנתיים.

הניסוי של ברידג'ווטר: הוכחה ליתרון המודלים הפתוחים?

ניסוי עדכני מספק עדות מסוימת התומכת בטענה בעד מודלים פתוחים. מעבדות AIA של Bridgewater, בשיתוף עם Thinking Machines Lab, טיפלו בבעיית לימוד מודל שפה לזהות חדשות פיננסיות רלוונטיות, משימה שקל לאנליסטים מנוסים אך קשה למודלים כלל-יישומיים . המקור הזמין מציין כי ברידג'ווטר השיגה תוצאות טובות יותר ממודלי הקצה תוך חיסכון בעלויות, אך אינו מספק מידע מספק כדי לאמת את נתוני הדיוק והעלות הספציפיים מהתשובה המקורית .

המסקנה הזהירה יותר היא שכיוון עדין של מודלים פתוחים או ניתנים לשליטה על משימות ספציפיות עשוי להניב ביצועים טובים יותר מממשקי API כלליים עבור זרימות עבודה ארגוניות ייחודיות. מחקר נפרד בתחום הפיננסים גם מדווח שמודלים פתוחים שאומנו עם מסגרות ייעודיות יכולים להפגין התנהגות תחרותית ומודעת-סיכון ולהתקרב לביצועי מודלי קצה בהיקף קטן יותר . מאמר אחר מציג את FinTral, משפחת מודלים לניתוח פיננסי הבנויה על Mistral-7B ומותאמת למשימות פיננסיות מולטי-מודאליות .

טיעון הנגד: תמיכתו של מנש בקוד פתוח עולה בקנה אחד עם האינטרס המסחרי של מיסטרל

זהו הסייג החשוב ביותר. מיסטרל היא בעצמה חברה מסחרית, ודיווחים מציגים אותה כמתמודדת אירופית מול OpenAI וגוגל . כאשר מנש מזהיר מפני ספקיות קוד סגור, הוא בו-זמנית מעלה טיעון לגבי סיכון ארגוני וריבונות AI וממצב את מיסטרל בשוק מודלי ה-AI הפתוחים או הניתנים לשליטה רבה יותר .

תצפיות מפתח:

• מיצובה הציבורי של מיסטרל קשור קשר הדוק לטיעוני קוד פתוח, ובלומברג מדווחת שמנש אמר שעליונות בתחום ה-AI תלויה בפתיחות ולא בגיאוגרפיה .
• הוול סטריט ג'ורנל דיווח כי חששות מפני דומיננטיות AI אמריקאית מגבירים את העסקים של מיסטרל הצרפתית, כלומר דאגה גיאו-פוליטית יכולה להועיל ישירות לקידום המסחרי של החברה .
• דיווחים מתארים את מיסטרל כ"אלופת" ה-AI האירופית ומתחרה ל-OpenAI וגוגל, כך שטיעוני ריבונות AI תומכים באופן טבעי בעמדה האסטרטגית של מיסטרל .
• דוגמת ברידג'ווטר, כפי שתוארה במקור הזמין, כללה את מעבדות AIA של Bridgewater ו-Thinking Machines Lab, ולא הוצגה כתוצאה ספציפית של מיסטרל .

עם זאת, העובדה שמודלים לא-מובילים או מתמחים יותר יכולים לבצע היטב משימות פיננסיות מחזקת את התזה הכללית של מודלים פתוחים, גם אם היא אינה תומכת ישירות במיסטרל. הטיעון המבני — שמודלים מותאמים אישית עשויים לעלות על ממשקי API כלליים במשימות ארגוניות ספציפיות — נתמך בזהירות רבה יותר בדיווחי ברידג'ווטר ובמחקר הקשור למודלים פיננסיים, אך גודל היתרון המדויק אינו מאומת על-ידי המקורות הזמינים .

סיכום הראיות

טיעון	תמיכה	איכות מקור
מודלי AI סגורים יוצרים סיכוני נתונים וקניין רוחני בארגונים	הביקורת של קרפ על מעבדות ה-AI המובילות	בינונית — הצהרת מנכ"ל מתועדת, אך לא אומתה באופן עצמאי במקורות
תלות אירופית בספקיות AI אמריקאיות היא דאגה אמיתית	דיווחים על חששות אירופיים ומיצוב מיסטרל	חזקה עבור הדאגה הכללית, חלשה יותר עבור לוחות זמנים ספציפיים
לאירופה יש כשנתיים להימנע מתלות קבועה	לא מאומת על-ידי המקורות הזמינים	חלשה במערך מקורות זה
מודלי קצה עלולים לבצע פחות טוב ממודלים מתמחים במשימות ספציפיות	דיווחי Bridgewater/Thinking Machines ומחקר מודלים פיננסיים	בינונית — נתמך באופן כללי, אך מדדים מדויקים אינם מאומתים כאן
יתרון העלות של מודלים מתמחים/פתוחים	דיווחי Bridgewater אומרים שהגישה חסכה כסף	בינונית — נתמך כיוונית, אך יחס העלויות המדויק אינו מאומת כאן

בשורה התחתונה

לטיעונים נגד AI סגור בארגונים יש תמיכה מסוימת מהעולם האמיתי, במיוחד סביב סיכוני מידע קנייני, חששות מעלויות טוקנים והמשיכה למודלים מותאמים אישית עבור זרימות עבודה פיננסיות מתמחות . הדאגה האירופית מתלות נתמכת גם היא בדיווחים על חששות אירופיים מפני דומיננטיות AI אמריקאית ובתפקידה של מיסטרל כמתחרה אזורית . עם זאת, טיעון הנגד לפיו מנש וקרפ מקדמים עמדות התואמות את האינטרסים של חברותיהם נתמך היטב ויש לשקול אותו מול המשמעות המהותית של אזהרותיהם . שתי העמדות אינן סותרות בהכרח: האזהרות יכולות להיות גם בעלות אינטרס מסחרי וגם נכונות מבחינה כיוונית.