וולקר טירק קורא לכללים מחייבים לבינה מלאכותית מתקדמת

המרוץ לפיתוח מערכות בינה מלאכותית חזקות יותר ויותר מחייב הרבה מעבר להתחייבויות פנימיות של חברות, לפי וולקר טירק, נציב זכויות האדם של האו״ם. במכתב פתוח הוא קרא לפעולה רב־צדדית דחופה, הנשענת על הדין הבינלאומי לזכויות אדם, והזהיר כי רגולציה עצמית וולונטרית היא "רחוקה מאוד מלהספיק". 7

מה טירק דורש מממשלות ומחברות AI

הפנייה של טירק הופנתה גם למדינות וגם לחברות המפתחות בינה מלאכותית מתקדמת (frontier AI) — כלומר, מערכות הנמצאות בחזית היכולות הטכנולוגיות. המסר המרכזי: אסור שמספר מצומצם של חברות יחליט לבדו אילו סיכונים הציבור כולו נדרש לשאת. 7

הצעדים שהודגשו בדיווחים על המכתב כוללים:

• ממשל מחייב המבוסס על זכויות אדם: על מדינות לחזק רגולציה במקום להסתמך על הבטחות וולונטריות של תאגידים, ולשתף פעולה בינלאומית כדי למנוע פערים בין מדינות. 7
• בדיקת נאותות מתמשכת לזכויות אדם: מפתחי AI צריכים לזהות ולטפל בפגיעות ממשיות או אפשריות בזכויות אדם לאורך כל מחזור החיים של המערכת — לא להסתפק בבדיקה חד־פעמית לצורכי ציות. לפי הנחיות האו״ם, מדובר בתהליך רציף של זיהוי סיכונים, פעולה, מעקב אחר יעילות הצעדים ותקשורת לציבור.
• הערכה טכנית ואימות בלתי תלויים: טירק קרא למנגנוני הגנה שניתן לבדוק באופן חיצוני, ולא להסתמך רק על הצהרותיהן של החברות. 7
• פעולה רב־צדדית דחופה: ממשל של בינה מלאכותית מתקדמת הוא בעיה בינלאומית; את הכללים ואת ערבויות הבטיחות יש לפתח בתיאום בין מדינות ומוסדות. 79

מדוע האזהרה הגיעה דווקא עכשיו

התערבותו של טירק מגיעה על רקע ויכוח בולט בתוך תעשיית ה-AI על הקצב שבו מעבדות מובילות צריכות להתקדם לעבר מערכות אוטונומיות יותר, ואולי גם בעלות יכולת לשפר את עצמן.

ג׳ייקוב קוקסון, חוקר שעבד בעבר גם ב-OpenAI וגם ב-Anthropic, התפטר מ-Anthropic בספטמבר 2026. לדבריו, החברות דוהרות לעבר "בינת־על שמשפרת את עצמה" תוך שהן "מהמרות על חיינו". 68 קוקסון אמר גם שיש אנשים הבונים AI שסבורים כי היא עלולה "להרוג את כולנו" עד סוף העשור. זו אזהרה המיוחסת לקוקסון ולמפתחים מודאגים אחרים — לא תחזית מבוססת או מוסכמת. 6

במקביל, יוזמה בהובלת עובדים בשם Pacing the Frontier ביקשה מממשלת ארה״ב לתמוך במאמץ בינלאומי לפיתוח הכלים הטכניים והממשליים הדרושים כדי להאט במכוון את פיתוח ה-AI המתקדם, כאשר קצב ההתקדמות עולה על יכולת האנושות לפקח עליו בבטחה. באתר היוזמה מופיעים 1,386 חותמים מחברות בתחום. 15

התמיכה המתפתחת ב"קיצוב קצב" הפיתוח חשובה, אך אינה פותרת את שאלת האחריות. עמדתו של טירק היא שגם התחייבויות וולונטריות הנתמכות בידי עובדים או מנהלים בתעשייה אינן תחליף להגנות ציבוריות אכיפות. 7

נזקים קיימים וסיכונים ארוכי טווח — באותה מסגרת

טירק לא הציג את הסוגיה רק כאיום עתידי ורחוק של הכחדה. הוא אמר שרגולציה עצמית וולונטרית אינה מספיקה הן להתמודדות עם נזקים שכבר מתרחשים, והן למניעת מצב שבו מודלים אוטונומיים מתקדמים עוקפים מנגנוני הגנה אנושיים. 7

הדיווחים הזמינים אינם מציגים רשימה מלאה ומפורטת של הנזקים הקיימים שטירק מנה במכתבו. לכן אין לייחס למכתב קטגוריות פגיעה מסוימות מעבר לאזהרה הכללית הזאת. מה שכן ברור הוא מבחן הממשל שהוא מציע: זכויות האדם חייבות להישאר במרכז התכנון, ההטמעה, ההערכה והפיקוח על מערכות AI. 7

הפער שטירק מצביע עליו

ישנה נקודת מפגש בין חלק מהקולות בתעשיית ה-AI לבין אזהרת האו״ם: שני הצדדים מכירים באפשרות שיש להאט במכוון את קצב פיתוח היכולות ולבצע הערכות חיצוניות ובלתי תלויות. 715

אלא שהפער שעדיין נותר הוא פוליטי. הצהרות הנתמכות בידי התעשייה יכולות לעודד תיאום, אך הן אינן קובעות ספי פעולה משותפים, אינן מחייבות גילוי מידע, אינן דורשות בחינה עצמאית, ואינן יוצרות סעד או אחריותיות במקרה של נזק. טירק קורא לממשלות לסגור את הפער הזה באמצעות רגולציה רב־צדדית דחופה, המעוגנת בדין הבינלאומי לזכויות אדם. 79

עבור קובעי מדיניות וארגונים הרוכשים מערכות AI, המשמעות המעשית פשוטה: טענות לבטיחות צריכות להיות מגובות בראיות להערכת סיכוני זכויות אדם מתמשכת, לביקורת חיצונית ולאחריותיות ברורה — ולא רק בהבטחות וולונטריות של החברות שבונות את המערכות.