ג'פרי הינטון: סיכוי של 10% להכחדת האנושות בידי AI בעשור הקרוב אינו מופרך

ג'פרי הינטון, מדען המחשב זוכה פרס נובל ואחד מחלוצי הבינה המלאכותית המודרנית, אמר כי סיכוי של 10% לכך שבינה מלאכותית תהרוג את כל בני האדם בתוך עשור אינו נראה לו בלתי סביר. לצד האמירה החריפה הוא הדגיש הסתייגות מהותית: "אף אחד לא באמת יודע" כיצד להעריך הסתברות כזו באופן הגיוני. 91012

זו אינה תחזית שלפיה הכחדה ודאית, וגם לא טענה שהצ'אטבוטים והמודלים הקיימים כיום כבר מסוגלים לגרום לכך. זהו טיעון בעד זהירות נוכח אפשרות עתידית: מערכות AI שיהיו מסוגלות בהרבה מבני אדם, אך יישארו קשות לשליטה.

מה בדיוק אמר הינטון על ה־10%

בריאיון ל־Newsnight של ה־BBC הסכים הינטון כי 10% הוא אומדן שאינו בלתי סביר לאירוע שבו AI יוביל להכחדת האנושות בעשור הקרוב. הנימוק שלו נשען בעיקר על חוסר הוודאות: האנושות מעולם לא נדרשה לחיות לצד ישויות שעשויות להפוך לחכמות ממנה. 910

הינטון כבר הציג בעבר הערכות קודרות בטווחי זמן ארוכים יותר. בסוף 2024 אמר שהוא רואה סיכוי של 10% עד 20% לכך שבינה מלאכותית תוביל להכחדת האנושות בתוך שלושה עשורים; ב־2025 הוא תיאר את הטווח הזה כתחושת בטן, ולא כתחזית המבוססת על חישוב. 1415

ההבחנה החשובה היא בין הערכת סיכון לבין חיזוי של תוצאה בלתי נמנעת. לפי הינטון, כאשר המחיר האפשרי הוא קיצוני כל כך, אי־ודאות אינה סיבה לשאננות אלא לנקיטת זהירות.

מדוע מערכת על־אנושית מדאיגה אותו

התרחיש שעליו מדובר אינו מרד מכונות נוסח סרטי מדע בדיוני. החשש של הינטון הוא שמערכת AI בעלת יכולות אסטרטגיות וטכניות העולות בהרבה על אלו של בני אדם תוכל לחולל כאוס או לקדם מטרות המתנגשות באינטרסים האנושיים.

בין נתיבי הפגיעה שהוזכרו: מניפולציה של בני אדם, יצירת וירוסים ביולוגיים או וירוסי מחשב, מתקפות סייבר ושיבוש תשתיות חיוניות. אלה מנגנונים אפשריים לנזק מצד מערכות עתידיות וחזקות מאוד — לא יכולות שהודגמו בכלי ה־AI של היום. 1011

הפער הזה חשוב. איוון הבינגר, מוביל מדע היישור באנתרופיק, אמר במפורש שהסיכון מהמודלים הקיימים נמוך. הדאגה שלו, בדומה לזו של הינטון, נוגעת למערכות שעשויות להפוך למסוגלות יותר בהרבה או לשפר את עצמן בקצב שהחוקרים לא יוכלו לנהל בבטחה. 11624

ג'ייקוב קוקסון ואיוון הבינגר: אזהרה מתוך אנתרופיק

הדיון התעצם לאחר שג'ייקוב קוקסון עזב את אנתרופיק ואת תעשיית ה־AI. קוקסון טען שאנתרופיק ו־OpenAI מנהלות מרוץ לעבר בינת־על בעלת יכולת לשיפור עצמי, בלי לנהוג באחריות מספקת; לדבריו, מדובר בהימור על חיי אדם. 317

קוקסון לא חזה במדויק שהאנושות תסתיים עד 2030. הטענה המצומצמת יותר שלו הייתה שאנשים הבונים מערכות AI בחזית הטכנולוגית מאמינים ברצינות שהטכנולוגיה עלולה להרוג את כולם עד סוף העשור. 57

הבינגר תמך בפומבי ברצינות האזהרה. הוא כתב שהוא עצמו מייחס סיכוי של יותר מ־10% לכך ש־AI יהרוג את כל בני האדם בעשור הקרוב, ובה בעת אמר שאנתרופיק מנסה לעשות את המיטב. נקודת המפתח בדבריו: לחברה עדיין אין תוכנית לפתור את בעיית היישור עבור בינת־על, ולא ברור שהיא בדרך לפתח תוכנית כזו. 16

מהי בעיית ה"יישור" (Alignment)

יישור הוא האתגר של הבטחה שמערכות AI מתקדמות יפעלו בעקביות לפי מטרות אנושיות רצויות, ויישארו ניתנות לשליטה — גם במצבים שהמפתחים לא צפו מראש.

מבחינת חוקרי בטיחות, השאלה אינה רק אם מערכת תסרב לבקשה מזיקה. השאלה הקשה יותר היא האם אפשר לכוון בבטחה מערכת בעלת אוטונומיה רחבה, גישה לכלים ויכולות שהמפעילים שלה אינם מבינים עד הסוף — במיוחד תחת לחצים ותנאים בעולם האמיתי.

דברי הבינגר אינם מוכיחים שיישור הוא משימה בלתי אפשרית. הם מעידים שלפי הערכתו, עדיין לא הוצג פתרון מוכח ליישור של מערכות על־אינטליגנטיות, לפני שמערכות כאלה עלולות להופיע. 16

איפה יש הסכמה — ואיפה המחלוקת

אין קונצנזוס סביב המספר המדויק של הינטון, 10%.

גארי מרקוס תמך בעמדה הזהירה של הינטון שלפיה יהיה טיפשי לפתח בינת־על לפני שיש הסכמה מדעית שאפשר לבנות אותה בבטחה ובאופן נשלט. עם זאת, דיווחים מציינים שמרקוס אינו רואה נתיב מציאותי להכחדת האנושות בטווח הקרוב. זו המחשה לפער המרכזי: אפשר להסכים שיש צורך באמצעי הגנה, בלי להסכים על ההסתברות לאסון או על לוח הזמנים שלו. 1141

הוויכוח הציבורי הרחב משלב אפוא דאגה מסיכונים ארוכי טווח של AI עם מחלוקת בשאלה אם מסלול הפיתוח הנוכחי אכן יכול להוביל בקרוב לבינת־על אוטונומית, בלתי נשלטת. לכן יש לקרוא אומדנים מספריים כאלה כשיפוטים של מומחים — לא כמדידות מדעיות.

השאלה המעשית למדיניות

נקודת ההסכמה החזקה ביותר אינה שהכחדה בידי AI ודאית. היא שאפשרות שאינה זניחה לאבד שליטה במערכות חזקות יותר ממפעיליהן מצדיקה פיקוח ציבורי, לפני שקצב הפיתוח ישיג את עבודת הבטיחות.

ההערכה של הינטון, ההתפטרות של קוקסון ואזהרת היישור של הבינגר מצביעות כולן על שאלה פתוחה אחת: איזו ראיה החברה צריכה לדרוש לפני פריסה או המשך הגדלה של מערכות שעלולות להפוך לעל־אנושיות מבחינה אסטרטגית?

כדאי להפריד בין שלוש טענות שלעתים מתערבבות זו בזו:

• מודלי AI הקיימים היום מציבים איום ברמת הכחדה.
• מערכות עתידיות עשויות לצבור יכולות שייצרו איום כזה.
• אפשר לאמוד במדויק את ההסתברות לתוצאה הזו.

המקורות תומכים בטענה השנייה כדאגה רצינית שמעלים חוקרים בולטים, בעוד הבינגר מתאר את הסיכון מהמודלים העכשוויים כנמוך והינטון אומר שאי אפשר לחשב את ההסתברות באופן אמין. 11016