מריה רסה מזהירה: להסדיר את הבינה המלאכותית עכשיו, לפני שנאבד את היכולת לבחור

מריה רסה, זוכת פרס נובל לשלום, העבירה באוסלו מסר חד: ממשלות צריכות לקבוע כבר עכשיו מגבלות חוקיות על בינה מלאכותית — לפני שהשפעתה תשתרש במידה שיהיה קשה לשלוט בה. לדבריה, AI כבר השפיעה על הקשב ועל ההתנהגות החברתית שלנו; השלב הבא עלול לפגוע ביכולת האנושית לקבל החלטות עצמאיות. 2

מבחינתה, ממשל בינה מלאכותית אינו ניסיון להגביל ביטוי חוקי, אלא סוגיה של בטיחות הציבור ודמוקרטיה. השאלה היא אם דמוקרטיות ייצרו מנגנוני הגנה בני אכיפה לפני שמערכות בעלות אוטונומיה גבוהה יהפכו למתווכות קבועות בין בני אדם לבין העולם. 23

שלושת גלי ההשפעה של AI לפי רסה

רסה תיארה התקדמות בשלוש שכבות של השפעה טכנולוגית על התנהגות אנושית:

1. פלטפורמות חברתיות לכדו את הקשב. לדבריה, רשתות חברתיות תרמו לקיטוב ולהתבדדות, משום שהן מותאמות למקסם מעורבות משתמשים. 26
2. צ'אטבוטים יכולים לנצל אינטימיות. רסה טענה שבינה מלאכותית שיחתית יכולה לנצל את הצורך האנושי בקשר ובקרבה. אפליקציות של "מלווים דיגיטליים" נבנות במפורש כדי לדמות ולשמר חברות אנושית — ולעיתים גם קשרים רומנטיים. 212
3. AI סוכני עשוי לפעול במקום האדם. בגל השלישי נמצאות מערכות שמסוגלות לבצע פעולות בשם המשתמש. החשש של רסה הוא שהאצלת יותר החלטות ופעולות למערכות כאלה תדחק בהדרגה את שיקול הדעת ואת חופש הפעולה האנושיים. 25

זה אינו טיעון שלפיו כל כלי AI יוביל בהכרח לאותה תוצאה. זו אזהרה מפני כיוון התמריצים: מערכות שמתוכננות למקסם מעורבות, תלות רגשית או השלמת משימות יכולות לצבור השפעה הולכת וגדלה על מה שהמשתמשים רואים, מרגישים ועושים.

למה היא דוחה את טענת "היתרון לסין"

רסה דחתה את הטענה שרגולציה מחמירה יותר בארצות הברית או באירופה תעניק לסין יתרון תחרותי. רויטרס דיווחה כי היא תיארה את קו הטיעון הזה, שמושמע גם בידי מבקרים ובהם נשיא ארצות הברית דונלד טראמפ, כמסגור מטעה של הוויכוח. 28

הנקודה שלה היא השוואתית: סין ממילא מפעילה פיקוח מדינתי הדוק בהרבה על טכנולוגיה מכפי שחברות עמק הסיליקון מוכנות לקבל. לכן הבחירה העומדת בפני דמוקרטיות אינה רק בין רגולציה לחופש; היא בין כללים דמוקרטיים, המגנים על זכויות ועל אינטרס הציבור, לבין השארת מערכות חזקות תחת תמריצים עסקיים בעיקרם. 2

איפה היא נפגשת עם דריו אמודיי — ואיפה לא

דריו אמודיי, מנכ"ל Anthropic, הציג קריאה דומה להאטת קצב השיפור ביכולות של מערכות AI מתקדמות. במאמר מספטמבר 2026 הוא טען שיש "לקצב" את התקדמות היכולות, כדי שעבודת הבטיחות, הערכה עצמאית ומנגנוני ממשל יספיקו להדביק את הפער. 10

אמודיי מתמקד יותר בזינוק ביכולות טכניות ובסיכוני שימוש לרעה. הוא הזהיר שסוכני AI חזקים יותר עשויים להשיג השפעה תפעולית רחבה ברשת, והציע תשתית לניטור מודלים בזמן שימוש, לצד הערכה בלתי תלויה. 10

המוקד של רסה רחב ואזרחי יותר: האופן שבו מערכות מתווכות-AI מעצבות קשב, אינטימיות, התנהגות והגדרה עצמית דמוקרטית. אך שתי העמדות נפגשות בעיקרון מרכזי אחד: אסור לדחות מנגנוני הגנה עד לאחר שמערכות חזקות כבר נפוצו בשימוש רחב.

כיצד נראית אחריות בפועל

רסה טוענת גם שהבטחות וולונטריות אינן מספיקות כאשר חברות מפתחות מוצרים עם מאפייני עיצוב ממכרים. לדבריה, יש להסיר מאפיינים כאלה לא רק עבור בני נוער, אלא גם עבור מבוגרים. 2

פשרה אמריקאית עדכנית מול מטא ממחישה את סוג האחריות המשפטית שהיא מבקשת. מטא הסכימה לשלם עד 18 מיליארד דולר במשך עשור ולהטיל מגבלות מחמירות יותר על שימוש בני נוער בפייסבוק ובאינסטגרם, כדי ליישב תביעות של כמעט כל מדינות ארצות הברית שטענו כי הפלטפורמות עוצבו כך שישאירו צעירים מחוברים ומכורים. מטא לא הודתה בהתנהלות פסולה.

ההסדר כולל, בין היתר, מגבלות יומיות כברירת מחדל למשתמשים בגיל ההתבגרות והגבלות שימוש בשעות הלילה.

מבחינת רסה, הלקח אינו מוגבל לרשתות חברתיות או לצעירים. מוצרים שממקסמים באופן שיטתי קשב והתנהגות עלולים ליצור נזק ציבורי בהיקף רחב. לכן, הקריאה שלה להסדרת AI איננה קריאה לאסור טכנולוגיה או דיבור; היא דרישה לאחריות משפטית ברורה כאשר טכנולוגיה מתוכננת או מופעלת באופן הפוגע בבטיחות, באוטונומיה או בחיים הדמוקרטיים. 23

השורה התחתונה

נאומה של רסה באוסלו מציג פיקוח על AI כבעיית מניעה מוקדמת. אחרי שמערכות כאלה ישתלבו עמוק באופן שבו אנשים מקבלים מידע, יוצרים קשרים ומאצילים החלטות, יהיה קשה יותר להחזיר שליטה אפקטיבית.

המרשם שלה הוא לחוקק לפני שמגיעים לנקודה הזו: לדרוש אחריות ממשית ממפתחים ומפלטפורמות, לבחון בקפדנות מערכות שאוטונומיית הפעולה שלהן גדלה, ולהבטיח שלמוסדות ציבוריים — ולא רק לחברות פרטיות — תהיה היכולת להעריך ולפקח על הטכנולוגיה. 210