אלטמן, אמודיי, האסביס והואנג מדברים על AGI — אבל מתכוונים לדברים שונים

AGI — בינה מלאכותית כללית — הפך למונח-מטרייה שמכסה רעיונות שונים בתכלית: עובד דיגיטלי אוטונומי בעל ערך כלכלי, חוקר ברמת פרס נובל, מכונה עם מלוא טווח היכולות הקוגניטיביות האנושיות, או מערכת שמצטיינת במבחנים. הפער הזה מסביר כיצד תחזיות נחרצות על לוחות זמנים שונים יכולות להתקיים במקביל — ומדוע אמון הציבור תלוי יותר ויותר בבדיקה חיצונית, ולא בהצהרות של מנהלים.

ארבעה מנהיגים, ארבעה רפי סף

סם אלטמן: AGI כאוטונומיה בעלת ערך כלכלי

ההגדרה המצוטטת של OpenAI ל-AGI היא „מערכות אוטונומיות מאוד שעולות על בני אדם ברוב העבודה בעלת הערך הכלכלי”. זהו בעיקר רף כלכלי ומעשי: השאלה היא אם מערכות מסוגלות לבצע עבודה מועילה בהיקף רחב, לא אם הן דומות לחלוטין לאופן החשיבה האנושי.

המסגור הציבורי העדכני יותר של OpenAI מדגיש את הסוכנות האנושית. החברה אומרת שמטרתה לבנות מערכות שיעזרו לאנשים לקדם מטרות שהם בוחרים, ולא יחליפו את שיקול הדעת האנושי; היא אף טוענת שאוטומציה מלאה של הכול תהיה גם מסוכנת וגם נטולת סיפוק. 23 מסגרת העבודה שלה בנושא תעסוקה מזהירה באופן דומה: אוטומציה של משימות אינה מבטלת בהכרח מקצוע, משום שבני אדם עשויים להישאר חיוניים לביצוע, לפיקוח או לנשיאה באחריות. 25

כך נותר גבול רחב ומשתנה בין כלי עזר חזקים, סוכנים אוטונומיים ו-AGI. ההגדרה הכלכלית יכולה לסייע במעקב אחר ההשפעה בעולם הממשי, אך אינה מבחן מדעי ציבורי.

דריו אמודיי: „AI עוצמתי” כחבילת יכולות יוצאת דופן אך מוחשית

מנכ״ל Anthropic, דריו אמודיי, מעדיף בדרך כלל את המונח „AI עוצמתי” על פני AGI. בהגשת המדיניות של החברה, המונח מתאר קפיצה גדולה מעבר למערכות הקיימות: יכולת אינטלקטואלית שמשתווה או עולה על זו של זוכי פרס נובל ברוב התחומים; היכולת להשתמש בממשקים הדיגיטליים העומדים לרשות עובדים אנושיים; ויכולת לבצע עבודה מורכבת באופן אוטונומי. 3

Anthropic צופה מערכות כאלה לסוף 2026 או לתחילת 2027. אמודיי תיאר את האפשרות כ„מדינה של גאונים במרכז נתונים”, ביטוי שמדגיש את ההשלכות הכלכליות, הביטחוניות והגאופוליטיות של ריכוז יכולת כזו. 6 7

זו הגדרה מפורטת יותר מתווית AGI כללית, אך היא עדיין מאגדת כמה טענות קשות להוכחה — רוחב מומחיות, אוטונומיה, שימוש בכלים ואמינות מתמשכת — בתחזית אחת. מודל עשוי לעמוד בחלק מהתנאים זמן רב לפני שיעמוד בכולם.

דמיס האסביס: AGI כמכלול היכולות הקוגניטיביות האנושיות

מנכ״ל Google DeepMind, דמיס האסביס, מציב רף גבוה יותר: מערכת עם כל היכולות הקוגניטיביות שיש לבני אדם. לדבריו, AI ברמה אנושית עשוי להגיע בעשור הנוכחי, אך הוא גם הדגיש שהמערכות הנוכחיות „רחוקות מאוד” מ-AGI ברמה אנושית. 33 38

במסגור הזה, AGI הוא פחות אבן דרך של מוצר ויותר סף מדעי של כלליות איתנה. הוא דורש יותר מציונים מרשימים במבחנים או מביצועים טובים בכמה תחומי מומחיות: המערכת תצטרך לפעול על פני מלוא רוחב הקוגניציה האנושית.

ג׳נסן הואנג: AGI כהצטיינות רחבה במבחנים

מנכ״ל Nvidia, ג׳נסן הואנג, השתמש ברף שמבוסס יותר על מדדים ומבחנים. ב-2024 הוא אמר ש-AGI עשוי להגיע בתוך חמש שנים, אם מגדירים אותו כ-AI שמסוגל לעלות על בני אדם כמעט בכל מבחן; דיווחים ב-2026 תיארו את עמדתו כהכרזה ש-AGI כבר הושג לפי סטנדרט מעשי מקל בהרבה. 34

היתרון של הגישה הזאת הוא בהירות: מבחנים מפיקים ציונים. המגבלה ברורה לא פחות. הצלחה במבחנים רבים אינה מוכיחה כשלעצמה אוטונומיה אמינה לאורך זמן, שיקול דעת תקין או פעולה בטוחה בתנאים מבולגנים של העולם האמיתי.

למה אי אפשר להשוות ישירות בין התחזיות

ארבעת המנהיגים לא רק מעריכים תאריכים שונים לאותו אירוע. הם צופים יעדים שונים:

• אלטמן / OpenAI: ביצוע אוטונומי של רוב העבודה בעלת הערך הכלכלי.
• אמודיי / Anthropic: עבודה אינטלקטואלית רחבה ברמת נובל, לצד ביצוע דיגיטלי אוטונומי וממושך.
• האסביס / DeepMind: מלוא טווח היכולות הקוגניטיביות האנושיות.
• הואנג / Nvidia: ביצועים שעולים על בני אדם במגוון רחב של מבחנים.

מערכת AI יכולה להוביל במבחנים רבים בלי להשלים לבדה שבועות של עבודת מחקר. היא יכולה להפוך חלק גדול מהעבודה הדיגיטלית לאוטומטי בלי להציג את מלוא רפרטואר היכולות של אדם. לכן, אין לקרוא את התאריכים האלה כספירה לאחור אחת ל-AGI.

מדוע AGI נתפס לעיתים כבלתי ניתן לבחינה — או אפילו „רוחני”

הטענה אינה שאי אפשר למדוד יכולות AI. אפשר. הבעיה היא של-AGI אין כלל מוסכם, ציבורי ומנוהל באופן בלתי תלוי של „עבר/נכשל”.

הצעה אקדמית מתארת את AGI כמושג שנוי במחלוקת ומפעילה אותו כהגדרה של יכולת אנושית לפחות ברוב המשימות. הניסוח הזה ממחיש גם את השאיפה להפוך את המונח למדיד וגם את ההכרעות הפתוחות שמסתתרות בתוכו: אילו משימות, אילו בני אדם, איזו רמת אמינות ובאילו תנאים? 50

מבחן ציבורי אמין ידרוש, לכל הפחות:

1. התפלגות משימות מוגדרת מראש, ולא רצף משתנה של הדגמות.
2. ספי ביצועים ואמינות, כולל תדירות הכישלונות של המערכת.
3. בחינה של אוטונומיה ושימוש בכלים לאורך זמן, ולא רק תשובות חד-פעמיות.
4. הגנות מפני אימון ייעודי של המודל כדי לעבור את ההערכה.
5. גישה עצמאית מספקת לשחזור התוצאה או לביקורת עליה.

בלי תשתית כזאת, AGI עלול להפוך לטענת סטטוס של הארגונים שיש להם התמריץ החזק ביותר להגדיר את קו הסיום. מכון AI Now מתח ביקורת על מדדים זמינים רבים כצרים, עמומים ומשרתים את האינטרסים של מי שמציג אותם. 62

משבר האמון שמאחורי המינוח

המחלוקת על AGI משקפת גם בעיית אמינות רחבה יותר. חברות יכולות להציג טענות מרחיקות לכת על יכולת משנה-מציאות, בזמן שעובדים ולקוחות פוגשים מערכות לא אחידות, מועדות לשגיאות או קשות לפריסה אמינה. הפער הזה אינו מוכיח שכל תחזית ארוכת טווח שגויה; הוא כן מחייב ראיות נצפות ותחזיות שניתן לדרוש עליהן דין וחשבון.

הוויכוח על תעסוקה ממחיש את המתח. OpenAI אומרת ש-AI ישנה את עולם העבודה, שחלק מהמשרות ייעלמו, אך שהראיות עד כה מצביעות על כך שהטכנולוגיה היא יותר כלי מסייע מאשר תחליף לעובדים. 17 אין בהכרח סתירה: אוטומציה של משימות, שינוי מקצועות וביטול משרות הם תוצאות שונות. אבל אמון הציבור נפגע כשתחזיות על שינוי גורף אינן מלוות במדדים שקופים של השפעתן בפועל על שוק העבודה.

מתוויות AGI לפיקוח לפי יכולות וסיכון

מודל ממשל חזק יותר יתמקד פחות בהכרעה אם מערכת „השיגה AGI”, ויותר ביכולות ובסיכונים המסוימים שהיא מציגה.

גישת רמות הבטיחות של AI של Anthropic משתמשת במבנה מפורש של „אם–אז”: אם למודל יש יכולת מסוכנת מוגדרת, יש ליישם הגנות מסוימות לפני פריסה או הרחבת האימון. 5 מסגרת המדיניות המאוחרת יותר של החברה קוראת לשקיפות, הערכה עצמאית וסמכות ממשלתית לחסום או להרתיע פריסות מסוכנות. 10

גם אלטמן קרא לאימות חיצוני ולהערכות סיכון עצמאיות עבור מודלים חזקים, כולל בדיקות לפני השקה ופרסום תוצאות ההערכה. 49

האסביס הציע גוף אמריקאי לתקני AI בחזית הטכנולוגיה, במודל FINRA — הרשות האמריקאית המפקחת על ענף הברוקראז׳ בוול סטריט: גוף הממומן בידי התעשייה אך פועל תחת פיקוח ציבורי, ושיבחן מודלי חזית באופן עצמאי לפני שחרורם. 52 לפי דיווחים, נקודת ההסכמה המתגבשת בין כמה ממובילי התחום היא שצדדים שלישיים צריכים לבחון מערכות מתקדמות ולסייע בפיתוח תקנים למדיניות. 51

עדיין קיים פער משמעותי בין הצעות לבין אכיפה בפועל. מדד בטיחות ה-AI של Future of Life Institute לשנת 2026 דיווח שאין רגולציות או תקנים לאומיים מחייבים שמתייחסים במפורש לסיכוני AI בחזית הטכנולוגיה ולתהליכי הערכת הסיכון הנלווים. 59

איך נראות טענות AI אמינות

השאלה הציבורית המועילה אינה „האם AGI כבר כאן?”, אלא: מה המודל הזה מסוגל לעשות, באיזו אמינות, מה עלול להשתבש, ומי אימת את התשובות באופן עצמאי?

מכאן נובעות דרישות ממוקדות-יכולת:

• פרוטוקולי הערכה פומביים ליכולות סייבר, ביולוגיה והטעיה בעלות סיכון גבוה;
• בדיקות עצמאיות ותרחישי תקיפה מבוקרים לפני פריסה;
• דיווח על אמינות, תקריות ושינויים מהותיים בתנאי הפריסה;
• אמצעי הגנה ומגבלות גישה התלויים בספי סיכון שהוכחו;
• והשלכות משפטיות על אי-ציות — לא הסתמכות על הצהרות וולונטריות בלבד.

AGI עשוי להישאר שאיפה חזקה, מונח שיווקי ושאלה פילוסופית. הוא טריגר רגולטורי חלש כל עוד הכרזה עליו אינה מגובה בראיות ציבוריות. אמון ייבנה כאשר מפתחים לא יוכלו פשוט להגדיר מחדש את אבן הדרך, להודיע שהגיעו אליה ולאשר בעצמם שהמערכת שלהם בטוחה.