Anthropic, OpenAI ו-Google DeepMind מדברות על תקני בטיחות ל-AI מתקדם — אבל עדיין לא הקימו רגולטור

הדיווחים הפומביים מצביעים על התכנסות אמיתית בין Anthropic, OpenAI ו-Google DeepMind סביב עיקרון מרכזי: לפני שמודלי AI מהחזקים ביותר מגיעים לציבור, הם אמורים לעבור בדיקה שאינה נשענת רק על הבקרה הפנימית של החברה שפיתחה אותם. אבל אין ראיה לכך שהחברות כבר הקימו רגולטור משותף — או שהסכימו על מבחנים מחייבים, גישת ביקורת, ספי שחרור או סנקציות על אי-עמידה בכללים. 811

זהו ההבדל החשוב: הסכמה על הצורך בהערכות בטיחות אינה שקולה להקמת מוסד שמוסמך לאכוף אותן.

מה בדיוק מוצע?

לפי הדיווחים, החברות מקיימות מאז יולי 2026 דיונים ברמת צוותי עבודה על גוף תקנים מובל-תעשייה עבור AI מתקדם. המטרה המסתמנת היא שיטה משותפת להערכת יכולות מסוכנות לפני פריסה לציבור — ובפרט סיכונים הקשורים למבצעי סייבר, שימוש לרעה ביולוגי, הונאה ותרחישי ניצול בעלי השפעה רחבה. 811

המודל המוסדי המפורט ביותר שהוצג בפומבי הגיע מדמיס האסביס, מנכ"ל Google DeepMind: גוף תקנים אמריקאי ל-AI מתקדם, בהשראת FINRA — הארגון לוויסות עצמי של תעשיית הפיננסים בארה"ב. לפי ההצעה, הגוף ימומן בידי התעשייה אך יפעל תחת פיקוח פדרלי, ויבדוק מודלי AI מתקדמים לפני שחרורם. בשלב הראשון ההגשה לבדיקה תהיה וולונטרית; היא עשויה להפוך לחובה רק לאחר שמתודולוגיית ההערכה תוכיח את עצמה. 9

עם זאת, אין עדיין תיעוד פומבי להסכמה בין המעבדות על הפרטים שיכריעו אם המנגנון הזה יהיה ממשי ועמיד:

• אילו מודלים יחויבו בבדיקה;
• אילו הערכות טכניות יהיו חובה;
• איזו גישה יקבלו מעריכים חיצוניים;
• אילו תוצאות יעכבו, יחסמו או יתנו תנאים לשחרור;
• מי יממן וינהל את הגוף;
• עד כמה המעריכים יהיו עצמאיים מהחברות שאותן הם בודקים; וכן
• איזה פיקוח ממשלתי והגנות משפטיות יחולו.

כל עוד השאלות האלה פתוחות, הצגת המהלך כרגולטור משותף ופעיל תהיה מעבר למה שהראיות תומכות בו.

על מה החברות כנראה כן מסכימות

תחום החפיפה הבולט ביותר הוא בדיקות עצמאיות לפני שחרור. Axios דיווח ביולי כי דריו אמודיי, סם אלטמן ודמיס האסביס תומכים באופן כללי בבחינה חיצונית של מודלים מתקדמים לפני הגעתם לציבור — במקום הסתמכות עיקרית על דיווח עצמי של החברות. 8

לכך יש משמעות מעשית: בטיחות של מודלים מתקדמים אינה תלויה רק בכך שהמפתחים עורכים בדיקות, אלא גם בשאלה אם גורמים עצמאיים יכולים לשחזר את הממצאים או לערער עליהם. משטר אמין ידרוש מבחנים מוגדרים, גישה מספקת למערכות והשלכות ברורות כאשר מודל חוצה סף סיכון.

שלוש החברות מציגות את הסוגיה גם כבינלאומית. ההצעות שלהן מכירות במתח אסטרטגי: מגבלות חד-צדדיות בארה"ב עלולות להיות קשות פוליטית אם מפתחים מתחרים במדינות אחרות אינם כפופים למגבלות דומות. תוכניתו של האסביס היא בהובלה אמריקאית; אמודיי טען כי הגנות לאומיות לבדן אינן יכולות לנהל מערכות שאפשר לפרוס בכל העולם. 91

הוויכוח האמיתי: מסגרת וולונטרית או סמכות אכיפה?

מאחורי השפה המשותפת על בטיחות מסתתרת מחלוקת עקרונית: האם מדובר בעיקר במסגרת תעשייתית וולונטרית, במנגנון בגיבוי ממשלתי, או ברגולטור בעל סמכות ממשית?

המודל של DeepMind ממומן בידי התעשייה אך נמצא תחת פיקוח פדרלי. הוא מתאר שלב פתיחה וולונטרי, ולאחריו אפשרות שבדיקה תהפוך לתנאי לפריסה. 9

הצעתו של אמודיי מדגישה מעריכים עצמאיים המשובצים בתוך מעבדות ה-AI המתקדמות, וקוראת לחברות במדינות דמוקרטיות לתאם תקנים בסיוע ממשלתי כאשר הוא נדרש. 12

הדיווחים על דיוני קבוצת העבודה מתארים את OpenAI כפתוחה לפעולה תעשייתית, במקום להמתין לכך שהממשלה תבנה מסגרת מלאה. 11 סם אלטמן גם תמך פומבית במעריכים עצמאיים בעלי גישה דמוית-עובד, בעקבות מאמרו של אמודיי.

אלה אינם הבדלים סמנטיים. הסדר וולונטרי עשוי להתקדם מהר וליצור פרקטיקות טכניות משותפות. אך בלי ממשל עצמאי וסמכות ציבורית, ייתכן שלא יוכל לחייב גישה למערכות, ליישב מחלוקות, למנוע ניגודי עניינים או לעצור חברה שמשחררת מודל שלא עבר ביקורת בטיחות.

פורום מודלי החזית אינו הוכחה לרגולטור חדש

Frontier Model Forum כבר קיים כגוף תעשייתי בהשתתפות חברות AI גדולות. בין יעדיו המוצהרים: קידום מחקר בטיחות, פיתוח הערכות ושיטות עבודה מומלצות, ושיתוף מידע עם קובעי מדיניות והתעשייה.

לכן הוא עשוי להיות זירה אפשרית לתיאום. אבל עצם קיומו אינו מוכיח שהושק גוף עצמאי חדש, או שמערכת ביקורת בין-חברתית כלשהי מחייבת. השאלה המרכזית היא אם החברות ייצרו ישות שמנסחת הנחיות בלבד — או גוף שיכול להעריך מודלים באופן עצמאי ולהציב תנאי שחרור בעלי משמעות.

למה מאמרו של אמודיי שינה את השיח

ב-12 בספטמבר פרסם מנכ"ל Anthropic, דריו אמודיי, את המאמר בן כ-3,800 המילים We Must Pace the Frontier. הוא טען שיש להאט את קצב העלייה ביכולות ה-AI כדי לתת לפרקטיקות הבטיחות זמן להדביק את הפער. 52

אמודיי הזהיר שבתוך שישה עד 12 חודשים, נחיל אוטומטי של סוכני AI חזקים יותר עשוי להשתלט על האינטרנט. יש להבין זאת כתחזית וכאזהרת סיכון — לא כממצא טכני מוכח. 513

המסלול שהציע מורכב משלושה חלקים:

1. שילוב מעריכים עצמאיים בתוך מעבדות AI מתקדמות, עם גישה דמוית-עובד לבדיקת מערכות, זיהוי כשלים והערכת עמידה בכללי בטיחות. 12
2. תיאום תקני בטיחות ומגבלות משותפים בין חברות AI במדינות דמוקרטיות, בסיוע ממשלתי לפי הצורך. 216
3. חתירה לתיאום בינלאומי רחב יותר, לרבות עם ממשלות סמכותניות, משום שמודלים מתקדמים והסיכונים שלהם ניתנים לפריסה גלובלית. 115

Anthropic מסרה כי תעניק למעריכים מצד שלישי גישה קבועה ברמת עובד. זו התחייבות חזקה יותר מבדיקה חיצונית חד-פעמית, אך אמינותה המעשית תהיה תלויה בזהות הגורמים שבוחרים את המעריכים, במה שיוכלו לבדוק, בזכותם לפרסם ממצאים ובמה שיקרה אם יזהו סיכון בלתי קביל. 122

מבחן האחריותיות

הביקורת המרכזית פשוטה: החברות המתחרות על פיתוח המערכות החזקות ביותר עשויות גם לעזור לנסח, לנהל ולפרש את הכללים החלים על אותן מערכות.

גוף בטיחות יהיה אמין יותר אם תהיה לו הנהגה טכנית עצמאית, שיטות הערכה שקופות, הגנה מפני השפעה תאגידית, פיקוח ממשלתי משמעותי וסמכות ברורה לפעול במקרה של כישלון בבדיקה. בלעדי התנאים האלה, תקנים משותפים יכולים לשפר נהלים — אך עדיין לא לספק אחריותיות עצמאית.

מדד בטיחות ה-AI לקיץ 2026 של Future of Life Institute ממחיש מדוע הספקנות נמשכת: Anthropic קיבלה C+, ואילו OpenAI ו-Google DeepMind קיבלו C; אף מעבדה שנבדקה לא קיבלה ציון גבוה מ-C+. 17

הסנאטור ברני סנדרס טען שהאטה אינה מספיקה, וקרא להפסקה בפיתוח AI מתקדם ולאיסור על "בינת-על מלאכותית". זוהי עמדה מגבילה בהרבה מהצעות המעבדות, אך היא מדגישה את הפער בין האטה וולונטרית לבין מגבלות שניתן לאכוף.

מה כדאי לעקוב אחריו עכשיו

הסימנים המהותיים הבאים להתקדמות לא יהיו עוד הצהרת עקרונות, אלא התחייבויות מוסדיות קונקרטיות:

• אמנת ממשל פומבית;
• זהותם של מעריכים עצמאיים;
• מבחנים אחידים ליכולות ולשימוש לרעה;
• כללים לגישת ביקורת ולגילוי מידע;
• ספי שחרור ודרישות לתיקון ליקויים; וכן
• תשובה ברורה לשאלה אם ממצא בטיחותי יכול לעכב או למנוע פריסה.

נכון לעכשיו, המסקנה הנתמכת בראיות מצומצמת יותר: מעבדות ה-AI המתקדמות הגדולות דנות בתשתית בטיחות משותפת, ותומכות יותר ויותר בבדיקות חיצוניות. עדיין לא ברור אם הדיונים יניבו גוף תקנים עצמאי ובעל יכולת אכיפה — או פורום תעשייתי וולונטרי. 8911