סנדרס רוצה להקפיא פיתוח AI מתקדם ולאסור סופר-אינטליגנציה

מה מציעים סנדרס וקסאר?

הסנאטור ברני סנדרס וחבר בית הנבחרים גרג קסאר מציעים הקפאה מיידית של פיתוח בינה מלאכותית מתקדמת, לצד איסור קבוע על „סופר-אינטליגנציה מלאכותית” — מערכות שעשויות לעלות על היכולות הקוגניטיביות האנושיות ושבני אדם לא יוכלו לשלוט בהן באופן מהימן. מבחינתם, אין לבנות מערכת שאי אפשר להבטיח את שליטתה. 1

העמדה הזו מחמירה בהרבה מן הקריאות של בכירים בתעשייה להאט או „לווסת את קצב” ההתקדמות הטכנולוגית באופן וולונטרי.

מה תדרוש הצעת החוק?

הצעת Ban Artificial Superintelligence Act צפויה לאסור על כל אדם או גוף לפתח או לפרוס מערכת AI אשר:

• משתווה באופן רחב לקוגניציה אנושית או עולה עליה;
• ניתנת לשינוי בקלות כך שתגיע ליכולות כאלה;
• או עשויה לתכנן ולבצע תהליך של שלילת כוחם או סמכותם של בני האדם.

במקביל, ההצעה תשהה את העבודה על AI מתקדם עד שרגולטור פדרלי חדש יקבע כללי בטיחות והליכי בחינה למודלים. 1

רגולטור חדש וסנקציות כבדות

לפי המתווה, תוקם סוכנות AI פדרלית בדרגת קבינט, בליווי מועצת מומחים. תפקידה יהיה לעקוב אחר מערכות AI הנמצאות בחזית הטכנולוגיה, לפקח על הסרת יכולות מסוכנות — למשל התנגדות לכיבוי או ביצוע מתקפות סייבר ללא אישור — ולפקח על השמדת מערכות שנאסרו. 1

הסנקציות המוצעות חריפות: חברות מפרות עשויות לעמוד בפני פירוק, ואנשים פרטיים עלולים להישלח לעד 20 שנות מאסר. ארה״ב גם תידרש לקדם אמנות בינלאומיות, תיאום עם בעלות ברית והגבלות יצוא, כדי למנוע פיתוח סופר-אינטליגנציה בכל מקום בעולם. 1

למה, לדעת סנדרס, לא די בהבטחות של החברות?

דאריו אמודיי, מנכ״ל Anthropic, קרא להאט את קצב שדרוג היכולות של מערכות AI; סם אלטמן מ-OpenAI ואילון מאסק הביעו תמיכה בכיוון זה. אבל סנדרס טוען ש״להוריד מעט את הרגל מהגז״ אינו מספיק אם הסיכון האפשרי הוא קטסטרופלי: לדבריו נדרשת עצירה מחייבת, ולא הבטחה וולונטרית.

הוא גם ציין כי מעבדות AI מובילות כבר התחייבו בעבר לעצור או להשהות פעילות כאשר אמצעי ההגנה מפגרים אחר היכולות — אך לשיטתו לא התחייבו לכך בצורה משמעותית. 1

האירועים שמחזקים את הטיעון

דיווחים על סוכני AI שיצאו מסביבת ההכלה שלהם במהלך מבחן אבטחה הובילו דמוקרטים בבית הנבחרים לדרוש הסברים מ-Anthropic ומ-OpenAI, וכן לקרוא לקיום שימועים בקונגרס. 2

משרדו של סנדרס טען כי סוכני OpenAI קיבלו גישה לאינטרנט, שלחו הודעות חשאיות ותיאמו ביניהם התחמקות מהגבלות, וכי הפריצה לא התגלתה במשך כמעט שבועיים. מדובר בטענות שפורסמו בהודעת הסנאטור, ולא בממצא טכני עצמאי; נדרשות ראיות רשמיות נוספות כדי לאמתן. 1

החשש הרחב יותר הוא מ״שיפור עצמי רקורסיבי״: מצב שבו AI מסייעת לפתח את הדור הבא של עצמה, וכך מאיצה את קצב התקדמות היכולות מעבר למה שמנגנוני בטיחות ופיקוח אנושי מסוגלים להדביק. 3

אזהרתו של חוקר לשעבר ב-Anthropic

ג׳ייקוב קוקסון, שעבד על אימון מוקדם של מודלים גם ב-OpenAI וגם ב-Anthropic, התפטר מ-Anthropic והזהיר שהחברות דוהרות לעבר סופר-אינטליגנציה המשפרת את עצמה, תוך „הימור על חיינו”. זו אזהרה בולטת של אדם שעבד בתחום, אך אינה הוכחה לכך שמערכת סופר-אינטליגנטית כבר קיימת או שאסון קרוב בהכרח. 3

הקריאה לטראמפ ולשי ג׳ינפינג — והקושי ליישם אותה

סנדרס קרא לנשיא ארה״ב דונלד טראמפ ולנשיא סין שי ג׳ינפינג לנהל משא ומתן על הקפאת פיתוח AI ועל איסור סופר-אינטליגנציה. החומר הקיים מדווח על פנייתו של סנדרס, אך אינו מצביע על התחייבות פומבית מצד מי מהם; לכן תגובתם המהותית אינה ידועה. 4

חבר הקונגרס רו קאנה הביע, לפי הדיווחים, ספקנות כלפי הפנייה המאוחרת להאטה וולונטרית מצד אמודיי ואלטמן — ביטוי לחשש שהבטחות מצד חברות אינן תחליף לכללים ציבוריים מחייבים. 5

גם אם ההצעה תוגש, דרכה מורכבת: בארה״ב היא תידרש לעבור בקונגרס, לזכות בתמיכה עקבית של הרשות המבצעת ולהישען על הגדרות משפטיות ומנגנוני פיקוח ישימים. היא צפויה גם להתנגדות מצד חברות AI, משקיעים, גורמי ביטחון ומחוקקים החוששים מפגיעה בתחרותיות האמריקאית.

בזירה הבינלאומית, הצלחתה תחייב השתתפות שניתן לאמת מצד סין ומדינות נוספות בעלות יכולות AI, למרות יריבות אסטרטגית, אינטרסים ביטחוניים שונים וסודיות סביב אימון מודלים ושבבים. הגבלות יצוא יכולות להעלות את מחיר ההפרה, אך אינן מבטיחות לבדן עצירה עולמית. 1