AnswersPublished22 sources
אנדרו נג דוחה את תרחישי ההכחדה מ-AI — ומעדיף בטיחות הנדסית על פני האטה גורפת
אנדרו נג דחה את הטענה שבינה מלאכותית צפויה להביא להכחדת האנושות, וכינה אותה „הרבה יותר מדע בדיוני ממדע”. לדבריו, חוסר ודאות בהתנהגות מערכות AI הוא בעיה הנדסית לניהול — לא סיבה לעצור באופן גורף את הפיתוח.
פורסם על ידיהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- אנדרו נג דחה את הטענה שבינה מלאכותית צפויה להביא להכחדת האנושות, וכינה אותה „הרבה יותר מדע בדיוני ממדע”.
- לדבריו, חוסר ודאות בהתנהגות מערכות AI הוא בעיה הנדסית לניהול — לא סיבה לעצור באופן גורף את הפיתוח.
- נג הזהיר שרטוריקה אפוקליפטית עלולה להסיט את הדיון מיתרונות הטכנולוגיה, ואף לשרת פרסום ועיצוב רגולציה.
- העדיפות שלו היא בדיקות קפדניות, מנגנוני הגנה וטיפול בסיכונים צפויים, ובהם סייבר.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
במהלך ריאיון לבלומברג TV ב-17 בספטמבר, אנדרו נג דחה את הטענה שבינה מלאכותית עשויה להביא להכחדת האנושות. לדבריו, החששות הללו הם „הרבה יותר מדע בדיוני ממדע”. נג לא טען שמערכות AI צפויות להיות צפויות לחלוטין; הוא טען שאי-הוודאות היא אתגר הנדסי שאפשר לצמצם ולנהל, ולא הוכחה לכך שיש לעצור את פיתוח הטכנולוגיה באופן גורף. 10
מדוע הוא מסתייג משיח יום הדין
נג הזהיר ששיח על „סיכון קיומי” עלול להסיט את תשומת הלב מהתועלות האפשריות של AI לחברה. הוא גם הזכיר דפוס שלדבריו הופיע בגלי טכנולוגיה קודמים: הדגשת תרחישים קטסטרופליים יכולה לייצר פרסום ולסייע בעיצוב מסגרות רגולטוריות. 8
כלומר, הביקורת שלו אינה על עצם העיסוק בבטיחות, אלא על הצגת הכחדה אנושית כתוצאה סבירה או מרכזית. לשיטתו, האטה רחבה של הפיתוח עלולה גם לעכב התקדמות בעבודת הבטיחות עצמה. 10
במה נג היה מתמקד במקום זאת
נג תומך בבדיקות קפדניות, אמצעי הגנה ופרקטיקות הנדסיות מול כשלים ברורים וצפויים — ובפרט מול סיכוני סייבר ונזקים מעשיים אחרים. מערכות AI אולי לא יהיו מושלמות או ניתנות לחיזוי מלא, אך אפשר להפוך אותן לאמינות ובטוחות יותר באמצעות הערכות, מנגנוני הגנה ושיפורים איטרטיביים. 10
הפער בינו לבין מחנה ההאטה
הוויכוח אינו רק אם AI מסוכן, אלא איזה סיכון צריך להכתיב את המדיניות:
- ג'ייקוב קוקסון, חוקר לשעבר ב-OpenAI וב-Anthropic, הזהיר שהתקדמות מהירה מדי — במיוחד לעבר מערכות שמשפרות את עצמן — עלולה להוביל לאסון, וקרא להאט את הקצב.
2
14
- דאריו אמודיי, מנכ"ל Anthropic, הציע להאט את שיפור היכולות של מודלי חזית כדי לפנות זמן לניהול סיכונים, כולל הערכות עצמאיות של מודלים מתקדמים.
3
- סם אלטמן, מנכ"ל OpenAI, הצטרף לעמדה הבסיסית שלפיה נדרשות האטה ואמצעי הגנה, על רקע חשש מהתקרבות למערכות שבני אדם לא יוכלו לשלוט בהן.
1
9
- ג'פרי הינטון סבור שיש סיכון משמעותי לאובדן שליטה אנושית, ותומך בהאטה ובבדיקות לפני השקת מערכות חדשות.
16
נג נבדל מהם בעיקר בהערכת ההסתברות ובסדר העדיפויות: הם רואים בסכנת אובדן השליטה תרחיש סביר דיו כדי להצדיק קצב פיתוח איטי יותר של מודלי החזית; הוא רואה בטענות על הכחדה ספקולציה, ומעדיף להתמודד עם נזקים קרובים ונצפים באמצעות הנדסת בטיחות. 3
10
16
מי מתנגד להאטה רחבה
גם ג'נסן הואנג, מנכ"ל Nvidia, התנגד לחוקים ייעודיים חדשים ל-AI. 17 נשיא ארה"ב דונלד טראמפ דחה את טענות הסכנה כ„תרמית” ואמר שלארצות הברית כבר יש כלים להסדרה ולהעמדה לדין של חברות שיפרו את החוק; הוא הדגיש את התחרותיות האמריקאית, במיוחד מול סין.
5
7 דוברת של משרד החוץ הסיני דחתה אף היא קריאות להאט את פיתוח מודלי החזית.
11
עמדות אלה מתיישבות עם התנגדותו של נג להאטה כלל-ענפית, אך מנימוקים שונים. נג מדגיש כשלים קונקרטיים ובקרות הנדסיות; אחרים מדגישים בעיקר חדשנות, תחרות וספקנות כלפי מגבלות נוספות. 5
10
11
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "אנדרו נג דוחה את תרחישי ההכחדה מ-AI — ומעדיף בטיחות הנדסית על פני האטה גורפת"?
אנדרו נג דחה את הטענה שבינה מלאכותית צפויה להביא להכחדת האנושות, וכינה אותה „הרבה יותר מדע בדיוני ממדע”.
What are the key points to validate first?
אנדרו נג דחה את הטענה שבינה מלאכותית צפויה להביא להכחדת האנושות, וכינה אותה „הרבה יותר מדע בדיוני ממדע”. לדבריו, חוסר ודאות בהתנהגות מערכות AI הוא בעיה הנדסית לניהול — לא סיבה לעצור באופן גורף את הפיתוח.
What should I do next in practice?
נג הזהיר שרטוריקה אפוקליפטית עלולה להסיט את הדיון מיתרונות הטכנולוגיה, ואף לשרת פרסום ועיצוב רגולציה.
Sources