AnswersPublished19 sources
אמיתי או לא? מנכ״ל Anthropic משיב לביקורת על מרוץ ה-AI והבטיחות
אמודיי טען שאפשר להתחרות בחזית פיתוח ה AI בלי לזנוח את הבטיחות. נתן קלווין הצביע על התחייבויות מחשוב גדולות, התפקיד הגובר של Claude בפיתוח AI ושינויים במדיניות הבטיחות של Anthropic.
פורסם על ידינערך באמצעות GPT-6 Lunaהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- אמודיי טען שאפשר להתחרות בחזית פיתוח ה AI בלי לזנוח את הבטיחות.
- נתן קלווין הצביע על התחייבויות מחשוב גדולות, התפקיד הגובר של Claude בפיתוח AI ושינויים במדיניות הבטיחות של Anthropic.
- אמודיי מנה צעדים שלדבריו הגבילו גישה למודלים או הוסיפו אמצעי הגנה, אך המחלוקת על התחייבויות החברה ועל הצעת חוק פדרלית לא נפתרה.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How did Anthropic CEO Dario Amodei’s nearly 2,000-word reply on X on October 20 respond to Encode AI chief strategy officer Nathan Calvin’s. Article summary: Amodei’s reply defended continued frontier competition rather than accepting Calvin’s claim that pursuing more powerful AI necessarily meant abandoning safety; he paired that defense with nine decisions he said had cost . Topic tags: general, general web, user generated, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, cha
מנכ״ל Anthropic, דאריו אמודיי, דחה את הטענה של נתן קלווין, בכיר אסטרטגיה בארגון Encode AI, שלפיה החברה דוהרת לפיתוח בינה מלאכותית חזקה יותר ומחלישה במקביל את מחויבותה לבטיחות. בתגובה ארוכה פרש אמודיי את מה שכינה צעדים בטיחותיים שעלו לחברה במחיר מסחרי. אבל הרשימה שלו לא הכריעה בשאלה המרכזית: האם אמצעי ההגנה ומדיניות החברה מספיקים כשהיכולות של מערכות ה-AI מתקדמות. 4
5
על מה קלווין מתח ביקורת?
קלווין הציג תשע נקודות שלטענתו מעידות על פער בין הצהרות הבטיחות של Anthropic לבין מעשיה. בין היתר, הביקורת עסקה בהתחייבויות המחשוב הגדולות של החברה — שדווח כי היקפן עולה על 500 מיליארד דולר — ובהתרחבות השימוש ב-Claude בפיתוח AI. לפי אחד הסיכומים, עד אוגוסט Claude הוביל 26% ממשימות פיתוח ה-AI, לעומת אפס במרץ. 9
25
1
מוקד מחלוקת נוסף היה מדיניות Responsible Scaling Policy, או בקיצור RSP — מסגרת של החברה שנועדה לקבוע כיצד לפעול כשהיכולות והסיכונים של מודלים מתקדמים גדלים. לפי הדיווחים, עדכון המדיניות הסיר התחייבויות חד-צדדיות לעצור או להאט פיתוח בתנאים מסוימים. אמודיי הגן על השינוי, ולא הודיע שיחזיר את ההתחייבויות. 1
3
קלווין ביקר גם טיוטה להצעת חוק פדרלית בנושא בטיחות AI. לפי הדיווחים, הטיוטה קבעה רף גבוה להתערבות ממשלתית: סיכון צפוי ומיידי ליותר מ-50 מקרי מוות או פציעות חמורות, או לנזק של יותר ממיליארד דולר. מדובר בסף של נזק צפוי שעשוי להצדיק התערבות — לא בדרישה להמתין עד שהנזק יתרחש בפועל. חשוב להדגיש: זו הייתה טיוטה, לא חוק שנחקק. 10
25
טענת אמודיי: להתחרות בחזית, ובמקביל לשמור על בטיחות
אמודיי הציג את האסטרטגיה של Anthropic כ״מרוץ לפסגה״. לשיטתו, אין הכרח שהחברה תיסוג מפיתוח בחזית הטכנולוגית כדי להתייחס ברצינות לבטיחות. הוא טען שהמשך התחרות בתחום מתיישב עם משימת הבטיחות של החברה, והצביע על החלטות שלדבריו כרוכות במחיר מסחרי. 4
9
בין הדוגמאות שהציג היו תמיכה בחוק הבטיחות של קליפורניה SB 53, שמירה על הגבלות מחמירות למניעת שימוש לרעה ב-AI בתחום הביולוגי, ודחיית הפצה רחבה יותר של מודלים מסוג Mythos עד לגיבוש הגנות סייבר חזקות יותר. לפי הדיווחים, לפני שהגישה הורחבה, המודלים היו זמינים לקבוצה מצומצמת של שותפים בתחום הגנת הסייבר. 5
11
כך ביקש אמודיי להציג את צעדי החברה לא רק כהצהרות פומביות, אלא כהחלטות שכרוכות בפשרות. עם זאת, הדיווחים הזמינים אינם מפרטים במידה מספקת כיצד הסביר שהישארות בחזית הפיתוח תעלה את רף הבטיחות בתעשייה כולה. 4
5
גם להגבלת גישה יש מחיר
אמודיי הכיר בכך שהגבלה או דחייה של גישה ליכולות AI מתקדמות עשויות לעלות יותר מאובדן הכנסות לחברה. לדבריו, צמצום הגישה עלול לעכב גם תועלות אפשריות לציבור, ובהן התקדמות בתחום הביולוגיה. 11
בדיווחים נמסר שהוא הודה גם בטעויות תקשורת, אך המשיך להגן על התנהלות Anthropic ועל השינויים במדיניות הבטיחות שלה. ההכרה בכשלים לצד הגנה על הכיוון הכללי של החברה הותירה את שאלות המדיניות המרכזיות פתוחות. 4
24
התשובה לא סגרה את הוויכוח
אמודיי הציע תשובה לטענת קלווין שהתחרות של Anthropic דחקה את הבטיחות הצדה: לדבריו, החברה הגבילה גישה או הוסיפה אמצעי הגנה גם כשהדבר כרוך במחיר עסקי. אבל הדוגמאות האלה לא ביטלו את הביקורת על היחלשות התחייבויות העצירה ועל הרף הגבוה להתערבות ממשלתית בטיוטת החוק. 1
3
5
10
הדיווחים הזמינים מסכמים את חילופי הדברים, אך אינם מציגים בפירוט את שתי הרשימות המלאות, כך שלא ניתן לאמת כאן כל סעיף מהן. המחלוקת עצמה ברורה: אמודיי הגן על המשך התחרות בחזית לצד צעדי בטיחות מסוימים; קלווין שאל אם הצעדים וההתחייבויות האלה חזקים דיים.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "אמיתי או לא? מנכ״ל Anthropic משיב לביקורת על מרוץ ה-AI והבטיחות"?
אמודיי טען שאפשר להתחרות בחזית פיתוח ה AI בלי לזנוח את הבטיחות.
What are the key points to validate first?
אמודיי טען שאפשר להתחרות בחזית פיתוח ה AI בלי לזנוח את הבטיחות. נתן קלווין הצביע על התחייבויות מחשוב גדולות, התפקיד הגובר של Claude בפיתוח AI ושינויים במדיניות הבטיחות של Anthropic.
What should I do next in practice?
אמודיי מנה צעדים שלדבריו הגבילו גישה למודלים או הוסיפו אמצעי הגנה, אך המחלוקת על התחייבויות החברה ועל הצעת חוק פדרלית לא נפתרה.
Sources
aichatdaily.comDario Amodei defends Anthropic safety record in lengthy reply ...
thenextweb.comDario Amodei says Anthropic held Mythos back for four ... - TNW
businessinsider.comDario Amodei spent 2,000 words laying out to a critic on X why Anthropic must persist in the AI ‘race to the top'
ababnews.comAnthropic CEO Dario Amodei Responds to Safety Organization's Concerns