מנהלי חברות ה-AI ערערו על אזהרות הסיכון — ואז חתמו עם טראמפ על התחייבות וולונטרית

פגישת הבית הלבן ב-29 בספטמבר הציבה באותו חדר מחלוקת פרטית על סיכוני הבינה המלאכותית והסכמה פומבית על כללי בטיחות. לפי דיווחים, מנהלים בתעשייה ערערו על אזהרותיו של דַריוֹ אמודיי, מנכ״ל Anthropic. לאחר הפגישה אמר אמודיי כי הסיכונים «ממשיים מאוד», אך הדרך להתמודד איתם עדיין בדיון. במקביל הציגו הנשיא דונלד טראמפ ומנהלי חברות הטכנולוגיה התחייבות בטיחות משותפת. החתימה לא פתרה את המחלוקת על השאלה אם הממשלה צריכה לקבוע כללים מחייבים. 2

על מה התעמתו בפגישה?

לפי דיווח על שיחה שהתקיימה בקבוצה מצומצמת יותר, מנהלים בחברות טכנולוגיה הקשו על אמודיי בעקבות אזהרותיו. עם זאת, החומר הזמין אינו מפרט את חילופי הדברים או מבהיר מי מהמשתתפים אמר מה. הוא גם אינו מאשר ששיבושים בתעסוקה היו חלק מאותו עימות.

המחלוקת הרחבה יותר ברורה: אמודיי קרא לקבוע בתקנות דרישה לביקורות עצמאיות של מערכות AI מתקדמות. טראמפ, לעומתו, תמך בכך שהחברות יפקחו על עצמן במקום שיוטלו עליהן מגבלות פדרליות חדשות. 4 לאחר הפגישה חזר אמודיי ואמר שהסיכונים ממשיים, אך שהדרך הנכונה לטפל בהם עדיין נבחנת. 2

מה החברות התחייבו לעשות?

«הסכם הבית הלבן בנושא סופר־אינטליגנציה» מפרט התחייבויות הנוגעות לבקרות פנימיות ולבדיקות בטיחות. החברות התחייבו גם לעבוד עם מבקרים עצמאיים כדי לבדוק אם מערכות ה-AI מתנהגות בהתאם לכוונת המפתחים, ולפעול להגנה מפני פריצה או גישה בלתי מורשית. 315

טראמפ כינה את ההסכם «מחייב מוסרית» ואמר שהחברות יפקחו על עצמן. אבל הדיווחים מתארים אותו כהסכם וולונטרי, שאינו ניתן לאכיפה משפטית. במילים אחרות: זו התחייבות של התעשייה, לא תקנה פדרלית חדשה. 411

ההבדל הזה משמעותי. ההסכם מציג צעדי פיקוח, אך אינו קובע אם גורם חיצוני יחויב לדרוש אותם, איך יאכפו, או אם יהפכו בעתיד לחוק. לפי דיווחים, המסמך משאיר פתוחה את האפשרות לעגן חלק מהצעדים בחקיקה בהמשך.

שאלות הפיקוח נותרו פתוחות

טראמפ העלה אפשרות להקים ועדה בת עשרה חברים שתפקח על התעשייה. לפי הדיווחים הזמינים, מדובר ברעיון שנבחן — לא בגוף שכבר הוקם. 210

גם הטענה שגוף נפרד לפיקוח עצמי של התעשייה בוטל אינה מאומתת בחומר הזמין, ואין בו הסבר מבוסס לקשר בין תוכנית כזאת להסכם שנחתם. הדיווחים קושרים את השתתפות Anthropic לפגישה ולוויכוח הרחב על רגולציה, אך אינם מראים שהחברה חתמה כדי לשקם את יחסיה עם הממשל לקראת הנפקה, או שהנפקה עמדה להתרחש בקרוב. 45

הסכמה על עקרונות, לא על תפקיד הממשלה

הפגישה הניבה שפה משותפת סביב אמצעי הגנה, אך לא הסכמה על היקף הסיכונים או על מידת המעורבות הממשלתית. הקריאה של אמודיי לביקורות עצמאיות המעוגנות בתקנות עומדת מול העדפתו של טראמפ לפיקוח וולונטרי מצד החברות. השאלה שנותרה פתוחה היא מי צריך לקבוע את דרישות הבטיחות — ומי יוודא שהן נאכפות. 4

לכן נכון לראות בהסכם מסגרת וולונטרית לפעולה מצד החברות, ולא הוכחה לכך שהמנהלים הסכימו על חומרת הסיכונים או על כך שפיקוח עצמי מספיק.