AnswersPublished23 sources
אקסנצ'ר ו-Anthropic משקיעות לפחות 2 מיליארד דולר במעריכי בטיחות משובצים
אקסנצ'ר ו Anthropic מצפות להשקיע לפחות מיליארד דולר כל אחת בחמש שנים — לפחות 2 מיליארד דולר בסך הכול — בבניית יכולות להערכת בטיחות AI. הצוות, שיובל בידי יחידת ה AI של אקסנצ'ר Faculty, אמור לבצע מבחני תקיפה, הערכות יישור ובדיקות של מנגנוני הגנה במודלים המתקדמים של Anthropic.
פורסם על ידינערך באמצעות GPT-5.6 Terraהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- אקסנצ'ר ו Anthropic מצפות להשקיע לפחות מיליארד דולר כל אחת בחמש שנים — לפחות 2 מיליארד דולר בסך הכול — בבניית יכולות להערכת בטיחות AI.
- הצוות, שיובל בידי יחידת ה AI של אקסנצ'ר Faculty, אמור לבצע מבחני תקיפה, הערכות יישור ובדיקות של מנגנוני הגנה במודלים המתקדמים של Anthropic.
- המהלך הוא היישום המעשי הראשון של הצעת המנכ"ל דריו אמודיי לשלב מעריכים חיצוניים עם גישה שוטפת, דמוית עובד, למעבדות AI.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Accenture and Anthropic announce about their partnership to advance AI safety—including each company’s commitment to invest at leas. Article summary: Accenture and Anthropic announced a five-year AI-safety partnership built around independent, embedded evaluation of Anthropic’s frontier models. Each expects to invest at least $1 billion—at least $2 billion combined—to. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
אקסנצ'ר ו-Anthropic הכריזו על שותפות בטיחות בינה מלאכותית לחמש שנים, שבמרכזה מודל של הערכה משובצת: מעריכים חיצוניים שיעבדו לצד הצוותים הפנימיים ושותפי הבטיחות של Anthropic. כל חברה מצפה להשקיע לפחות מיליארד דולר בתקופה זו, כלומר התחייבות כוללת של לפחות 2 מיליארד דולר. 3
13
מה יעשה צוות המעריכים?
את התוכנית תוביל Faculty, חטיבת ה-AI המתמחה של אקסנצ'ר. הצוות אמור להעריך את מודלי ה-AI המתקדמים של Anthropic, לבצע להם מבחני תקיפה מכוונים (red teaming), לערוך הערכות יישור — כלומר לבחון אם התנהגות המודל תואמת את הכוונות והכללים שנקבעו לו — ולבדוק את מנגנוני ההגנה. 3
13
הרעיון אינו ביקורת חיצונית נקודתית, המתקיימת רק לקראת השקת מודל. לפי תפיסת ה"מעריכים המשובצים" של Anthropic, לבודקים אמורה להיות גישה שוטפת, דמוית-עובד, שתאפשר להם לבחון אם המעבדה אכן עומדת במדיניות המוצהרת שלה בנוגע לאימון, פריסה, תפעול ואמצעי הגנה. 14
41
לכן הבדיקה אמורה לעסוק לא רק במודל שהושלם, אלא גם בתהליכים שמסביב לפיתוחו ולפריסתו. עם זאת, החברות מדגישות שהמודל עדיין חדש, ורבים מפרטי ההפעלה שלו טרם גובשו. 13
עד כמה הבודקים יהיו עצמאיים?
בהצעה הרחבה יותר של Anthropic, מעריכים חיצוניים יקבלו גישה הדומה במידה רבה לזו של צוותי הערכת סיכונים פנימיים: סביבת עבודה, אפשרות לשוחח עם עובדים וגישה למערכות עבודה רלוונטיות. ההצעה גם קובעת כי הם יוכלו לפרסם ממצאים מרכזיים על סיכונים, אירועים, נהלים והיקף הגישה שניתן להם — ללא עריכה של Anthropic. 14
41
העצמאות הזו אינה מוחלטת. Anthropic שומרת לעצמה אפשרות מצומצמת להשחיר מידע רגיש לביטחון, מידע המוגן בחיסיון משפטי, מידע מסחרי רגיש או מידע סודי של צד שלישי. השאלה המרכזית שנותרה פתוחה היא כיצד העקרונות האלה יתורגמו לחוזה ולכללים מעשיים של גישה, דיווח ופרסום. 14
41
חלק מתוכנית "We Must Pace the Frontier"
Anthropic מציגה את השותפות עם אקסנצ'ר כצעד מוקדם למימוש התחייבות שפרסם המנכ"ל דריו אמודיי במסה שלו, We Must Pace the Frontier — לשלב מעריכים חיצוניים בתוך החברה. 13
לתוכנית של אמודיי שלושה רכיבים:
- מעריכים חיצוניים משובצים: חברות AI בחזית התחום יעניקו למעריכים עצמאיים גישה שוטפת דמוית-עובד, כדי לאמת נהלי בטיחות, לבחון צינורות אימון ומודלים ולדווח על אירועים. Anthropic התחייבה לבצע צעד זה בעצמה.
14
45
- תיאום בין מעבדות AI מתקדמות במדינות דמוקרטיות: יצירת גישות משותפות וניתנות לאימות, שנועדו לצמצם את התמריץ לקצר דרך בבטיחות במסגרת מרוץ תחרותי.
21
- תיאום עולמי: הרחבת התיאום גם מעבר למדינות דמוקרטיות, תוך הכרה בקושי לאמת התחייבויות בין ממשלות וחברות שונות.
37
Anthropic טוענת שממשלות צריכות להפוך הערכה עצמאית ושקיפות לדרישות מקובלות ממפתחי מודלי AI מתקדמים, ולא להותיר אותן כהתחייבויות וולונטריות של חברות. 24
27
לא בלעדי: צפויים מעריכים נוספים
ההסכם עם אקסנצ'ר אינו הופך את Faculty למעריכה החיצונית היחידה של Anthropic. החברה אומרת כי בכוונתה לעבוד עם כמה מעריכים, ובוחנת עבודה עם METR ועם גופים נוספים ללא מטרות רווח, בהסדרי מימון נפרדים. גם אקסנצ'ר תוכל לבצע עבודה דומה עבור מפתחי AI אחרים. 13
בשלב זה Anthropic תממן ישירות את עבודת אקסנצ'ר, בשל הדחיפות שהיא מייחסת לבניית יכולת הערכה בתחום. בטווח הארוך יותר, היא טוענת שמימון משותף או ממשלתי עשוי לתמוך טוב יותר בעצמאות המעריכים. 9
13
ההמשך לשותפות המסחרית הקודמת
שותפות הבטיחות מגיעה לאחר הרחבת היחסים העסקיים בין החברות בדצמבר 2025. במסגרת זו הוקמה קבוצת Accenture Anthropic Business Group, ונקבע כי כ-30,000 אנשי מקצוע של אקסנצ'ר יקבלו הכשרה על Claude, המודל של Anthropic. 1
2
ההודעה החדשה נבדלת במטרתה: במקום הטמעה ארגונית של AI, היא מתמקדת בהקמת יכולת מתמשכת להערכת בטיחות של מודלי קצה. לאחר ההודעה, מניית אקסנצ'ר עלתה בכ-6% במסחר המאוחר המוקדם. 5
השורה התחתונה
הסיפור אינו רק סכום ההשקעה של לפחות 2 מיליארד דולר. מדובר בניסיון למסד סוג חדש של פיקוח: מעריכים חיצוניים הפועלים בתוך מפתחת AI מתקדמת, עם גישה שאמורה להיות קרובה יותר לזו של צוות ניהול סיכונים פנימי מאשר לזו של מבקר תקופתי.
האפקטיביות של המודל תיבחן בפרטים שעדיין לא נקבעו — בעיקר הגישה בפועל למידע ולאנשים, החופש לפרסם ממצאים שליליים, והנכונות של מעבדות AI וממשלות אחרות לאמץ דרישות דומות. 13
14
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "אקסנצ'ר ו-Anthropic משקיעות לפחות 2 מיליארד דולר במעריכי בטיחות משובצים"?
אקסנצ'ר ו Anthropic מצפות להשקיע לפחות מיליארד דולר כל אחת בחמש שנים — לפחות 2 מיליארד דולר בסך הכול — בבניית יכולות להערכת בטיחות AI.
What are the key points to validate first?
אקסנצ'ר ו Anthropic מצפות להשקיע לפחות מיליארד דולר כל אחת בחמש שנים — לפחות 2 מיליארד דולר בסך הכול — בבניית יכולות להערכת בטיחות AI. הצוות, שיובל בידי יחידת ה AI של אקסנצ'ר Faculty, אמור לבצע מבחני תקיפה, הערכות יישור ובדיקות של מנגנוני הגנה במודלים המתקדמים של Anthropic.
What should I do next in practice?
המהלך הוא היישום המעשי הראשון של הצעת המנכ"ל דריו אמודיי לשלב מעריכים חיצוניים עם גישה שוטפת, דמוית עובד, למעבדות AI.