AnswersPublished13 sources
בילאל צ'וגטאי מזהיר מפני מרוץ הבינה המלאכותית: „ייתכן שנגמר לנו הזמן”
בילאל צ'וגטאי, שעזב את Google DeepMind ביולי 2026, כתב שלבינה מלאכותית יש פוטנציאל „להרוג את כולנו” ושייתכן שהזמן למנוע זאת הולך ואוזל. הוא מצטרף לאזהרות של חוקרים לשעבר מ Anthropic, בהם ג'ייקוב קוקסון ואוון הובינגר; ההערכה של הובינגר לסיכוי של יותר מ 10% להכחדה בעשור הקרוב הוצגה במפורש כהערכה אישית.
פורסם על ידינערך באמצעות GPT-5.6 Terraהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- בילאל צ'וגטאי, שעזב את Google DeepMind ביולי 2026, כתב שלבינה מלאכותית יש פוטנציאל „להרוג את כולנו” ושייתכן שהזמן למנוע זאת הולך ואוזל.
- הוא מצטרף לאזהרות של חוקרים לשעבר מ Anthropic, בהם ג'ייקוב קוקסון ואוון הובינגר; ההערכה של הובינגר לסיכוי של יותר מ 10% להכחדה בעשור הקרוב הוצגה במפורש כהערכה אישית.
- המחלוקת המעשית עוסקת בקצב ובפיקוח: תומכי האטה דורשים בדיקות, הערכות חיצוניות ואחריות ממשלתית, בעוד מתנגדים מדגישים את מחיר ההאטה בתחרות של ארה״ב מול סין.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
האזהרה של בילאל צ'וגטאי היא אזהרה חריפה מפני סיכון קיומי, ולא תחזית שלפיה בינה מלאכותית תשמיד בהכרח את האנושות. לאחר שעזב את Google DeepMind, שם לדבריו עסק במחקר בטיחות ויישור מטרות של בינה כללית מלאכותית (AGI), הוא כתב של-AI יש פוטנציאל „להרוג את כולנו” — ושייתכן שהזמן למנוע תוצאה כזו הולך ואוזל.
ממה בדיוק צ'וגטאי חושש?
מוקד החשש שלו הוא שהיכולות של מערכות AI מתקדמות מתפתחות מהר יותר מן היכולת לוודא שהן בטוחות, נשלטות ופועלות בהתאם לכוונות אנושיות. לדבריו, מסלול הפיתוח הנוכחי מונע מתחרות בין חברות לבניית מערכות חזקות יותר, עוד לפני שקיימים מנגנוני הגנה, מחקר יישור מטרות ופיקוח ציבורי מספקים.
הפתרון שהציע אינו פעולה חד-צדדית של חברה אחת, אלא תיאום: האטת קצב הפיתוח לרמה שהחברה יכולה להתמודד עמה, וטיפול בסיכונים מתעוררים לפני שייגרם נזק קיצוני. כלשונו, החברות צריכות לתאם ביניהן במקום להמשיך ב״מרוץ מטורף״.
לפי דיווח רויטרס, Google לא מסרה תגובה לבקשת תגובה שנשלחה מחוץ לשעות העבודה.
אזהרות דומות מתוך תעשיית ה-AI
פרישתו של צ'וגטאי באה לאחר שורה של התבטאויות פומביות וחריגות בישירותן מצד חוקרים ומנהלים בתחום הבינה המלאכותית.
ג'ייקוב קוקסון, חוקר לשעבר ב-Anthropic, אמר שהתפטר משום שלדעתו מעבדות מובילות דוהרות באופן חסר אחריות לעבר „בינת-על” שמשפרת את עצמה. לדבריו, האנשים שבונים את מערכות ה-AI מאמינים בכנות שהן עלולות להשמיד את האנושות עד סוף העשור.
אוון הובינגר, חוקר יישור מטרות ב-Anthropic, תמך פומבית בחשש הבסיסי והעריך אישית שהסיכוי שבינה מלאכותית תגרום להכחדת האנושות בעשור הקרוב גבוה מ-10%. לצד זאת, הוא הבדיל בין החשש ארוך הטווח לבין המודלים הקיימים כיום, שאותם תיאר כבעלי סיכון נמוך.
אלה עמדות של חוקרים יחידים, לא אומדן הסתברותי מבוסס-נתונים ולא קונצנזוס מדעי. הנקודה המצומצמת יותר היא שחלק מהאנשים הקרובים ביותר לפיתוח מודלי-קצה סבורים שהנזק האפשרי חמור דיו כדי להצדיק אמצעי זהירות חזקים יותר כבר עכשיו.
החיבור לקריאה להאט את מודלי-הקצה
עמדתו של צ'וגטאי דומה לקריאתו של מנכ״ל Anthropic, דריו אמודיי: לקבוע קצב זהיר יותר לפיתוח מערכות ה-AI המתקדמות ביותר, עד שמנגנוני הבטיחות והפיקוח החיצוני ישתפרו. דיווחים הצביעו על תמיכה בהאטה כלל-תעשייתית מצד מנכ״ל OpenAI סם אלטמן ואילון מאסק.
בפועל, אין הכרח שמדובר באיסור קבוע על בינה מלאכותית. מסגרת ה-AI המתקדמת של Anthropic מציעה דרישות ממפתחי המודלים החזקים ביותר, ובהן:
- בדיקת המערכות לאיתור סיכונים קטסטרופליים;
- שימוש במעריכים חיצוניים ועצמאיים;
- פרסום שוטף של הערכות, סיכונים ואירועי בטיחות; וכן
- אחריות מול הממשלה, לרבות סמכות להרתיע מפני פריסות מסוכנות או לחסום אותן.
1
מדיניות ההתרחבות האחראית של Anthropic מבוססת גם היא על עקרון „אם-אז”: אם מודל מפגין יכולות מסוכנות מוגדרות, אין לפרוס אותו או לאמן מודל חזק יותר עד שיוטמעו אמצעי ההגנה המתאימים. 8
הטיעון הנגדי: רגולציה עלולה לפגוע ביתרון האמריקאי
המחלוקת אינה רק טכנולוגית, אלא גם גאו-פוליטית. מבקרי ההאטה טוענים שמגבלות נוקשות עלולות להעניק יתרון למדינות יריבות או לחברות פחות זהירות.
נשיא ארה״ב דונלד טראמפ הכיר בכך שייתכן שיש צורך מסוים במגבלות בטיחות, אך הקטין את הטענות המבהילות ואמר שהוא חושש שארה״ב תאבד את הובלתה לטובת סין. זו תמצית המתח בוויכוח: האם האטת חזית הפיתוח היא ניהול סיכונים הכרחי, או ויתור אסטרטגי שארה״ב אינה יכולה להרשות לעצמה.
מה המונח „דומריות AI” מבהיר — ומה הוא מטשטש
„דומריות AI” הוא כינוי, לעיתים מזלזל, לתפיסה שלפיה בינה מלאכותית מתקדמת עלולה ליצור סכנה ברמת הכחדה. אבל הכינוי עשוי להסתיר שאלה מדינית ממשית: אילו ראיות ליכולת מסוכנת צריכות להוביל לבדיקות נוספות, להגבלות פריסה או להתערבות רגולטורית?
הטיעון של צ'וגטאי אינו מוכיח שאסון שנגרם מ-AI קרוב. הוא טוען שהמחיר של טעות בבטיחות עלול להיות בלתי הפיך, ושמניעי התחרות אינם מבטיחים בהכרח את מידת הזהירות הנדרשת. התשובה שהוא מציע היא ממשל מתואם: האטה היכן שנדרש, הערכות בטיחות מחמירות יותר ואחריות ברורה — לפני שמערכות יהפכו קשות יותר לשליטה. 1
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "בילאל צ'וגטאי מזהיר מפני מרוץ הבינה המלאכותית: „ייתכן שנגמר לנו הזמן”"?
בילאל צ'וגטאי, שעזב את Google DeepMind ביולי 2026, כתב שלבינה מלאכותית יש פוטנציאל „להרוג את כולנו” ושייתכן שהזמן למנוע זאת הולך ואוזל.
What are the key points to validate first?
בילאל צ'וגטאי, שעזב את Google DeepMind ביולי 2026, כתב שלבינה מלאכותית יש פוטנציאל „להרוג את כולנו” ושייתכן שהזמן למנוע זאת הולך ואוזל. הוא מצטרף לאזהרות של חוקרים לשעבר מ Anthropic, בהם ג'ייקוב קוקסון ואוון הובינגר; ההערכה של הובינגר לסיכוי של יותר מ 10% להכחדה בעשור הקרוב הוצגה במפורש כהערכה אישית.
What should I do next in practice?
המחלוקת המעשית עוסקת בקצב ובפיקוח: תומכי האטה דורשים בדיקות, הערכות חיצוניות ואחריות ממשלתית, בעוד מתנגדים מדגישים את מחיר ההאטה בתחרות של ארה״ב מול סין.