אנתרופיק חושפת: קלוד בונה את עצמו – וקוראת להאטה בתעשייה לפני שיהיה מאוחר מדי

אין מדובר רק בשיפור יעילות; זהו שינוי מבני בצינור הפיתוח. התוצאה היא שמהנדסי אנתרופיק משיקים כעת קוד בכמות גדולה פי שמונה ברבעון, בהשוואה לקו הבסיס של השנים 2021–2025 . צוואר הבקבוק ביצירת תוכנה עובר מכתיבה ובדיקות להגדרת מטרות, ארכיטקטורה ושיפוט.

ביצועי הבנצ'מרקים רוויים בקצב חסר תקדים

הדו"ח מספק ציר זמן של תאוצה מסחררת במספר מדדים סטנדרטיים של יכולות הנדסה ומחקר :

• SWE-bench (הנדסת תוכנה בעולם האמיתי): בסוף 2023, מודלים השיגו ציון של כ-2%. נכון למועד פרסום הדו"ח, קלוד השיג 93.9%, ובכך למעשה הרווה בנצ'מרק שנועד לבדוק תיקון באגים ברמה אנושית על בעיות אמיתיות מ-GitHub .
• CORE-Bench (שחזור מחקר שפורסם): שיעורי ההצלחה של הבינה המלאכותית זינקו מכ-20% ב-2024 לרוויה מלאה של הבנצ'מרק כעבור חמישה עשר חודשים בלבד .
• אופטימיזציית קוד אימון לבינה מלאכותית: בנצ'מרק פנימי זה, המבקש ממודל לבצע אופטימיזציה לקוד המאמן מודל שפה קטן, הראה זינוק מדהים. במאי 2025, ההאצה הממוצעת הייתה פי 2.9. עד אפריל 2026, עם המודל טרום-ההשקה Claude Mythos Preview, היא הגיעה לפי 52 . אדם מיומן שעובד לבד יזדקק לארבע עד שמונה שעות כדי להשיג שיפור של פי 4; הדור הנוכחי של מודלי קלוד עולה על פי 50 .

מהירות האוטונומיה מוכפלת כל ארבעה חודשים

אולי המדד המשמעותי ביותר לחיזוי שיפור עצמי רקורסיבי הוא משך הזמן של משימות אוטונומיות. מחקר של METR עוקב אחרי כמה זמן בינה מלאכותית יכולה לעבוד באופן עצמאי בשיעור הצלחה של 50%. אופק משימות זה התרחב מכ-30 שניות ב-2022 ל-12 שעות עם Claude Opus 4.6 באפריל 2026 – עלייה של פי 1,440 . התצוגה המקדימה של Claude Mythos יכולה לעבוד לפחות 16 שעות, מה שמצוין כקרוב לגבול העליון ש-METR יכול למדוד כיום . קצב ההכפלה של אופק זה הואץ מכל שבעה חודשים לכל ארבעה חודשים .

שליש מהעבודה בסיוע בינה מלאכותית לא הייתה מעשית בעבר

הנתונים הכמותיים על קוד ובנצ'מרקים מצטרפים לסקרים פנימיים על פריון אנושי. ניתוח של 200,000 תמלילי שיחות פנימיות עם קלוד ו-53 ראיונות עומק מצא כי 27% מהמשימות בסיוע בינה מלאכותית היו משימות שעובדים פשוט לא היו מנסים לבצע בלעדיה, משום שעלות הזמן הפכה אותן לבלתי-מעשיות קודם לכן . אין מדובר באוטומציה של עבודה קיימת, אלא בהרחבה של מה שאפשרי לנסות מלכתחילה. במחקר פנימי נפרד מנובמבר 2025, עובדים דיווחו על שימוש בקלוד ב-60% מעבודתם והעריכו שיפור פריון של 50%, עלייה מ-20% בשנה הקודמת .

להאט או לבלום את הסיכון: קרע הולך ומעמיק

עמדתה של אנתרופיק מפורשת. החברה קובעת, "אנחנו עדיין לא שם, ושיפור עצמי רקורסיבי אינו בלתי נמנע. אבל הוא עלול להגיע מוקדם יותר ממה שרוב המוסדות ערוכים לו" . היא טוענת כי יכולת גלובלית לעצור או להאט את פיתוח הבינה המלאכותית "תהיה ככל הנראה דבר טוב", וקוראת ישירות למעבדות אחרות לשקול זאת .

באותו שבוע, פעולותיה של OpenAI ציירו תמונה מנוגדת. ב-3 ביוני, OpenAI פרסמה אג'נדת מדיניות ציבורית הקוראת למסגרת בטיחות פדרלית לבינה מלאכותית מתקדמת, הכוללת הערכות מודל מחייבות והגנות על חושפי שחיתויות, אך גם עם סעיף קריטי: מניעת תחולתם של חוקי בטיחות מדינתיים . היא מבקשת במפורש ממכון הבטיחות הפדרלי לבינה מלאכותית CAISI לתעדף ניטור ההתקדמות לעבר שיפור עצמי רקורסיבי . במקביל, OpenAI מאיישת כוח אדם בדיוק עבור הסיכון הזה, ויצרה תפקיד של "חוקר, מוכנות לשיפור עצמי רקורסיבי" בתוך צוות הבטיחות שלה, עם חבילת שכר מפורסמת של 295,000 עד 445,000 דולר . התפקיד ממוסגר כבעיית בלימה של אובדן שליטה, מאמץ "בעל טעם טוב ואסטרטגי" למתן סיכונים ש"עשויים להתקיים בעתיד, אך אולי אינם קיימים כעת" .

שתי המעבדות רואות את אותו הגל מתקרב, אבל אנתרופיק דוחקת בצי להאט, בעוד ש-OpenAI מגייסת מצילים וטוענת נגד כל מדינה בודדת שתכריז על איסור שחייה.

שלושת הצעדים לעבר בינה מלאכותית שבונה את עצמה

הפוסט בבלוג מתאר מסלול בן שלושה שלבים לעבר הסיכון האולטימטיבי :

1. האצה בהכוונה אנושית (עכשיו): בינה מלאכותית מסייעת למהנדסים אנושיים, כותבת את רוב הקוד, אך בני האדם קובעים מטרות ומפעילים שיפוט.
2. מחקר והנדסה אוטונומיים: בינה מלאכותית יכולה לבצע ניסויים מוגדרים היטב מתחילתם ועד סופם ללא הנחיה אנושית על השיטות; נותר פער בקביעת מטרות ברמה גבוהה ובשיפוט.
3. שיפור עצמי רקורסיבי מלא ("סגירת הלולאה"): בינה מלאכותית מתכננת, בונה ומאמנת באופן אוטונומי את יורשתה, עם פיקוח אנושי מזערי או בלעדיו.

מייסד-שותף של אנתרופיק, ג'ק קלארק, העריך בנפרד הסתברות של 60% ש"לולאה" זו תיסגר עד סוף 2028 . הנתונים הפנימיים בפוסט מ-4 ביוני מספקים את הבסיס העובדתי לכך שהערכה זו אינה היפותזה רחוקה, אלא השלכה מעקומה שכבר נראית מתכופפת כלפי מעלה.