AnswersPublished17 sources
למה ג'ייקוב קוקסון עזב את Anthropic — ומה באמת עומד מאחורי אזהרת ה-AI שלו
ג'ייקוב קוקסון אמר שעזב את Anthropic משום שלדעתו התחרות בין מעבדות ה AI המובילות דוחפת לפיתוח מערכות משתפרות עצמית מהר יותר מהיכולת להבטיח שליטה ובטיחות. איוון האבינגר מ Anthropic אמר שהסיכון מהמודלים הקיימים נמוך, אך העריך אישית סיכוי של יותר מ 10% לכך ש AI יהרוג את כל בני האדם בעשור הקרוב.
פורסם על ידינערך באמצעות GPT-5.6 Terraהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- ג'ייקוב קוקסון אמר שעזב את Anthropic משום שלדעתו התחרות בין מעבדות ה AI המובילות דוחפת לפיתוח מערכות משתפרות עצמית מהר יותר מהיכולת להבטיח שליטה ובטיחות.
- איוון האבינגר מ Anthropic אמר שהסיכון מהמודלים הקיימים נמוך, אך העריך אישית סיכוי של יותר מ 10% לכך ש AI יהרוג את כל בני האדם בעשור הקרוב.
- הוויכוח הפך גם למאבק מדיניות: דריו אמודיי קרא להאטת קצב ההתקדמות בחזית ולפיקוח עצמאי, בעוד מבקרים מזהירים שכללים נוקשים עלולים לחזק דווקא את מעבדות ה AI הגדולות.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What prompted 27-year-old former Anthropic and OpenAI pretraining researcher Jacob Coxon to resign from Anthropic on September 8—two months. Article summary: Coxon said he resigned because he concluded that the leading labs’ competitive incentives—not merely individual technical failures—were driving them toward increasingly autonomous, self-improving systems before anyone kn. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
קוקסון עזב את Anthropic כמחאה על מה שהוא רואה כדינמיקה מסוכנת במרוץ לבינה מלאכותית מתקדמת: חברות ממהרות לפתח מערכות אוטונומיות יותר, ואולי גם כאלה שיוכלו לשפר את עצמן, עוד לפני שקיימות שיטות אמינות לשלוט בהן. קוקסון, שאמר כי עסק במחקר קדם-אימון (pretraining) גם ב-Anthropic וגם ב-OpenAI, טען שאף אחת משתי החברות אינה פועלת באחריות מספקת. 2
3
הטענה המרכזית: התחרות מקדימה את יכולת השליטה
בשרשור שפרסם ברשת X, קוקסון האשים את Anthropic ו-OpenAI ב״מרוץ ישיר לסופר-אינטליגנציה שמשפרת את עצמה ובהימור על חיינו״. החשש שלו אינו שצ'אטבוטים קיימים עומדים להכחיד את האנושות בכוחות עצמם. הוא מזהיר מפני מערכות עתידיות שעלולות לעלות על בני אדם במגוון משימות בעלות השפעה גבוהה — לרבות יכולות סייבר — ולצבור כוח ממשי או גישה למשאבים לפני שבני האדם יוכלו להבטיח שהן פועלות לפי מטרות אנושיות. 3
5
8
זו הבחנה חשובה: הטיעון של קוקסון עוסק בעיקר בהסלמת יכולות ובממשל. אם היכולות מתפתחות במהירות בזמן שעבודת הבטיחות מפגרת, כשל עתידי עלול להיות חמור — גם אם המודלים של היום עדיין מוגבלים.
מדוע הוא החליט לעזוב
קוקסון אמר ל-BBC שאנשים שעובדים על AI מתקדם ״מפוחדים באמת״ מקצב ההתקדמות. לדבריו, ללא האטה יש ״סיכוי משמעותי״ שהאנושות תמות בזמן הקרוב. 1
הוא הוסיף שהאטה משמעותית אינה בעיה שחברה אחת או מדינה אחת יכולות לפתור לבדן. לשיטתו, פתרון עמיד יחייב תיאום בינלאומי, כולל עם סין, כדי שהזהירות במדינה אחת לא תעביר פשוט את הפיתוח המתקדם ביותר למקום אחר. 1
לכן, ההתפטרות שלו הייתה דחייה פומבית של התמריצים שמניעים את פיתוח מודלי החזית, ולא טענה שהוא היה עד אישית לכשל בטיחות מסוים ב-Anthropic. הדיווחים על עזיבתו תיארו דאגה רחבה יותר: מרוץ לבניית מערכות שהחברות אולי לא יוכלו לשלוט בהן. 2
איך הגיבו חוקרי בטיחות אחרים
האזהרה של קוקסון קיבלה תמיכה מאיוון האבינגר, חוקר יישור מטרות (alignment) ב-Anthropic. האבינגר אמר שהסיכון מהמודלים הקיימים נמוך, אך ציין כי להערכתו האישית הסיכוי ש-AI יהרוג את כל בני האדם בעשור הקרוב גבוה מ-10%. 13
חשוב לקרוא את הנתון הזה בזהירות. מדובר בהערכה סובייקטיבית של תרחיש עתידי בעל הסתברות לא ודאית אך תוצאה קיצונית — לא בניבוי שהוכח אמפירית. הדיווחים סביב התפטרותו של קוקסון ממחישים מחלוקת חריפה על לוחות הזמנים, ההסתברויות ואמצעי ההגנה הנדרשים; הם אינם מצביעים על קונצנזוס מדעי שלפיו הכחדת האנושות קרובה. 13
הסיכונים המיידיים: שימוש לרעה בסייבר והאצת יכולות
החששות המוחשיים יותר בדיון הזה נוגעים לשימוש לרעה בסייבר, לניסויים מסוכנים ולסוכני AI בעלי יכולות מתרחבות — ולא לתסריט קולנועי שבו AI תוקף לפתע את האנושות בכוחות עצמו.
דיווחים על הדיון העלו חשש שמודלים מתקדמים יסייעו לחדירות סייבר ולשימושים מזיקים אחרים. הם התייחסו גם לאירוע נטען שבו סוכני OpenAI היו מעורבים בפריצה ל-Hugging Face, אך המידע הזמין אינו מספק די פרטים ממקורות ראשוניים כדי לקבוע באופן עצמאי את נסיבות האירוע המדויקות, ההרשאה שניתנה לו או היקפו. 2
63
המסקנה המעשית היא שטענות על סופר-אינטליגנציה עתידית אינן צריכות להסיט את תשומת הלב מהשאלות שניתן לבחון כבר כיום: מה מודלים מסוגלים לעשות, כיצד בודקים אותם לפני שחרור, האם מאתרים שימוש לרעה, ומי יכול לאמת באופן עצמאי את טענות הבטיחות של המעבדות.
ההצעה של אמודיי: להאט את חזית היכולות, לא לעצור AI
זמן קצר לאחר אזהרתו של קוקסון, מנכ״ל Anthropic, דריו אמודיי, קרא להאט את קצב השיפור ביכולות של מודלי חזית במאמר שכותרתו We Must Pace the Frontier. זו לא הייתה קריאה לעצור את פיתוח ה-AI באופן גורף, אלא לתת למניעת הסיכונים זמן להדביק את קצב ההתקדמות הטכנולוגית. 1
המסגרת שדווחה כוללת:
- ניטור והערכה עצמאיים של מודלי חזית;
- תקני בטיחות משותפים לתעשייה ולמדינות דמוקרטיות; וכן
- תיאום בינלאומי עתידי בנושא ממשל AI, לרבות שיח עם סין.
1
מנכ״ל OpenAI סם אלטמן תמך פומבית בכיוון הכללי ואמר שבודקים עצמאיים בעלי גישה דומה לזו של עובדים הם רעיון טוב. גם אילון מאסק תמך בקריאתו של אמודיי וכתב: ״דאריו צודק״. 1
מדוע מבקרים מזהים גם בעיית תחרות
הצעות בטיחות מצד מעבדות ה-AI הגדולות מעוררות לא רק תמיכה, אלא גם ספקנות. מבקרים, ובהם מנכ״ל Hugging Face קלמנט דלנג, טענו שהגבלות נוקשות על מודלי חזית עלולות להיטיב עם החברות שכבר מחזיקות במימון ובמשאבים הדרושים כדי לעמוד בעלויות הציות לרגולציה. 1
3
הביקורת הזו אינה מוכיחה שהחששות של קוקסון אינם כנים. היא מעלה שאלה נפרדת: האם רגולציית בטיחות יכולה בו בזמן להפחית סיכונים אמיתיים וגם לרכז כוח בידי מספר קטן של מעבדות מבוססות?
זהו המתח שבלב הוויכוח. מערכת ממשל אמינה תצטרך לשפר את הפיקוח על המערכות החזקות ביותר, בלי להפוך את דרישות הבטיחות לחומת מגן מלאכותית עבור קבוצה מצומצמת של חברות.
השורה התחתונה
קוקסון עזב משום שהגיע למסקנה שהמרוץ בין חברות ה-AI המובילות הוא בעצמו הסכנה: התמריץ להרחיב יכולות עלול לגבור על הזמן הנדרש לבניית מנגנוני שליטה, בדיקה ותיאום בינלאומי. 2
3
הטענות הדרמטיות ביותר שלו עדיין שנויות במחלוקת. הן מבטאות דאגה רצינית של חלק מאנשי התעשייה, אך אינן הוכחה לכך שהכחדה קרובה. האתגר המדיני המיידי יותר הוא לבנות אמצעי הגנה שניתן לאמת באופן עצמאי עבור מערכות שהולכות ומתחזקות — בלי שהאמצעים האלה רק יקבעו את יתרונן של החברות שבונות אותן. 1
13
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "למה ג'ייקוב קוקסון עזב את Anthropic — ומה באמת עומד מאחורי אזהרת ה-AI שלו"?
ג'ייקוב קוקסון אמר שעזב את Anthropic משום שלדעתו התחרות בין מעבדות ה AI המובילות דוחפת לפיתוח מערכות משתפרות עצמית מהר יותר מהיכולת להבטיח שליטה ובטיחות.
What are the key points to validate first?
ג'ייקוב קוקסון אמר שעזב את Anthropic משום שלדעתו התחרות בין מעבדות ה AI המובילות דוחפת לפיתוח מערכות משתפרות עצמית מהר יותר מהיכולת להבטיח שליטה ובטיחות. איוון האבינגר מ Anthropic אמר שהסיכון מהמודלים הקיימים נמוך, אך העריך אישית סיכוי של יותר מ 10% לכך ש AI יהרוג את כל בני האדם בעשור הקרוב.
What should I do next in practice?
הוויכוח הפך גם למאבק מדיניות: דריו אמודיי קרא להאטת קצב ההתקדמות בחזית ולפיקוח עצמאי, בעוד מבקרים מזהירים שכללים נוקשים עלולים לחזק דווקא את מעבדות ה AI הגדולות.