האזהרה של ג'פרי הינטון מפני «צ'רנוביל של הבינה המלאכותית» היא מטאפורה לשיבוש חמור הקשור ל-AI — לא תחזית לתאונה גרעינית. בין התרחישים שתיאר: מתקפה רחבת היקף על תשתיות חשמל או פריצה לבנק שתשתק את המערכת הפיננסית למשך כשבוע. לדבריו, ייתכן שאפשר יהיה להתאושש מאירוע כזה.
1
31
לפי הדיווחים, הינטון אמר שמשבר כזה עלול להתרחש «מאוחר יותר השנה או בשנה הבאה» — כלומר בסוף 2026 או במהלך 2027. זו הערכה שלו, לא לוח זמנים מבוסס או הוכחה שאירוע כזה אכן יתרחש.
5
7
15
למה התכוון הינטון ב«צ'רנוביל» של AI?
ההשוואה נועדה להמחיש את היקף המשבר האפשרי ואת השלכותיו, ולא את הגורם הפיזי לאסון. בדיווחים על דבריו מופיעים תרחישים של מתקפות סייבר או שיבושים שישפיעו על מערכות החשמל והפיננסים.
1
5
31 לפי אותם דיווחים, הינטון סבור שמשבר שאפשר להתאושש ממנו עשוי לגרום למנהיגי העולם להתייחס ברצינות לסיכוני הבינה המלאכותית.
5
31
כמה דיווחים מייחסים לו גם השוואה בין תקריות שבהן היו מעורבים סוכני OpenAI ואתר Hugging Face לבין תאונת תחנת הכוח הגרעינית Three Mile Island — מעין אות אזהרה לפני אירוע חמור יותר.
13
15 עם זאת, מדובר בסיכומים משניים, ותמליל מלא של הריאיון אינו נמצא בין המקורות הזמינים כאן.
הפיקוח שהוא מציע: לבדוק לפני שמשיקים
התגובה שהינטון מציע היא לבחון מערכות AI חזקות לפני שהן יוצאות לשימוש, ולא להסתמך רק על נזקים או תביעות משפטיות בדיעבד. הוא תיאר רשות עצמאית שתדרוש ראיות סטטיסטיות חזקות לכך שמודל צפוי להועיל יותר משהוא מזיק, והשווה את הרעיון לפיקוח על תרופות.
34
דיווחים נוספים מתארים תמיכה שלו בבדיקות חובה, בהערכות עצמאיות ובקביעת תקנים בינלאומיים משותפים למודלי AI מתקדמים.
3
13 הסיכומים הזמינים אינם מפרטים בעקביות את היקף ההצעה או את מידת התמיכה בה, ולכן כדאי להתייחס לפרטים האלה בזהירות.
אזהרה — לא קביעה שהעתיד אבוד
דבריו של הינטון משלבים דאגה עמוקה לצד הכרה בכך שהטכנולוגיה עשויה להביא תועלת. לפי הדיווחים, הוא אמר שייתכן שבני האדם היו במצב טוב יותר אילו מעולם לא פיתחו AI, אך גם שהטכנולוגיה עשויה להוביל ל«עתיד נפלא» והבהיר שאינו פסימיסט לגביה.
14
39 הוא אמר גם שבעשור הקרוב יתברר אם אפשר לנהל את סיכוני ה-AI — אמירה שאינה שקולה לתחזית של קריסה חברתית בתוך פרק הזמן הזה.
1
31
ההבחנה חשובה: הינטון מזהיר מפני סיכון שלדעתו מחייב פעולה, אך אינו מוכיח שאסון הוא בלתי נמנע. הקריאה שלו להערכה לפני השקה מבטאת את האפשרות שאמצעי הגנה ישפיעו על הדרך שבה הבינה המלאכותית תתפתח.
34