ביל גייטס מזהיר: הבינה המלאכותית עלולה לסכן משרות, ביטחון ויחסים אנושיים

ביל גייטס אינו מזהיר רק מפני מצב שבו צ'אטבוטים יחליפו עובדים במשרדים. במאמרו בן 5,784 המילים, "עידן ה-AI הסוער כבר כאן. ההחלטות שנקבל עכשיו הן קריטיות", הוא טוען שהבינה המלאכותית מתקדמת בקצב שעלול לשבש את שוק העבודה, את הביטחון ואת היחסים האנושיים — עוד לפני שממשלות, חברות וקהילות הסכימו כיצד לנהל את המעבר. 117

גייטס אינו קורא לעצור את הטכנולוגיה. הטענה שלו היא שהיתרונות שלה לא יגברו על הנזקים מעצמם. ללא מדיניות מכוונת, הוא מזהיר, הבינה המלאכותית עלולה להעמיק את אי-השוויון ולהוביל לתוצאה שלילית נטו.

שלושת הסיכונים המרכזיים שעליהם מצביע גייטס

1. משרות רבות עלולות להיעלם לצמיתות

גייטס מעריך שהבינה המלאכותית תשתלט על חלקים גדולים של עבודה בעריכת דין, בשירות לקוחות, ברפואה, בתכנות ובייצור בתוך כעשור — ולא לאורך כמה דורות. לדבריו, המשרות החשופות ביותר הן לעיתים קרובות תפקידי כניסה ותפקידים בדרג הביניים, בעוד שרבות מהמשרות החדשות ידרשו הכשרה שאורכת שנים. 15

גם אם בעתיד ייווצרו מקצועות חדשים, המעבר עלול להיות כואב במיוחד. עובדים שיאבדו את משרתם כעת לא בהכרח יוכלו לרכוש מיומנויות חדשות במהירות, ומספר המשרות החדשות עלול להיות קטן ממספר המשרות שייעלמו ללא מדיניות מתאימה. 15

המהפכה אינה צפויה להיעצר בעבודות משרדיות. גייטס מעריך ששיפור מתמשך ברובוטיקה וב-AI עלול להשפיע בהמשך גם על עבודות פיזיות, ובהן בנייה ואירוח. המשמעות היא שמקבלי ההחלטות לא יכולים להתייחס לאוטומציה כבעיה זמנית שמוגבלת למקצועות מסוימים במשרדים. 110

2. AI מתקדם עלול להקל על ביצוע פשעים חמורים

גייטס מזהיר גם מפני האפשרות שפושעים וגורמים עוינים ישתמשו בבינה מלאכותית כדי לבצע מתקפות סייבר ולפתח איומים ביולוגיים. ככל שהמערכות נעשות חזקות יותר, כך עלולים להידרש פחות ידע, כסף ומשאבים כדי לגרום נזק. 717

בעדות קודמת שלו בפני ועדת הפיקוח של בית הנבחרים האמריקאי הגדיר גייטס את השימוש של גורמים עוינים ב-AI ואת השיבוש בשוק העבודה כשני האתגרים הגדולים של העשור הקרוב. 22 במאמר החדש החשש הזה הופך לקריאה לאמצעי הגנה מחמירים יותר, לניטור ולתיאום בינלאומי — ולא רק להבטחות וולונטריות מצד חברות הטכנולוגיה.

3. חברים וירטואליים עלולים לבוא במקום קשרים אנושיים

הסיכון השלישי שגייטס מעלה הוא חברתי. הוא מזהיר כי "חברים" מבוססי AI עלולים להחליף חלק מהאינטראקציות בין בני אדם ולנצל חולשות רגשיות, עם השלכות אפשריות על ההתפתחות החברתית והרגשית של ילדים. 413

החשש אינו נוגע רק לתוכן בלתי הולם. מערכות שתוכננו למקסם מעורבות עשויות לעודד משתמשים לבלות זמן רב יותר עם בן לוויה מלאכותי — גם כאשר הדבר בא על חשבון קשרים עם משפחה, חברים, מורים ואנשים אחרים.

מדוע גייטס סבור שהעולם אינו מוכן

הביקורת של גייטס מופנית לא רק כלפי ממשלות. לדבריו, מנהיגים, מומחים, עסקים, קהילות והציבור עדיין אינם מחזיקים בתוכנית משותפת למעבר שעלול להיות סוער במיוחד. 110

הוא טוען גם שלתעשיית הטכנולוגיה יש תמריץ להדגיש את היתרונות של AI ולהציג את הסיכונים החמורים כרחוקים. חברות מתחרות על השקעות, נתח שוק, עובדים מוכשרים ויתרון אסטרטגי — תחרות שעלולה להקשות על נקיטת זהירות גם כאשר הסיכונים אמיתיים. 16

זו גם הסתירה המרכזית במאמר שלו: הבינה המלאכותית עשויה ליצור שגשוג עצום, אך המוסדות שאמורים לחלק את הרווחים ולהגביל את הנזקים מתפתחים לאט יותר מהטכנולוגיה עצמה.

הפתרונות הלאומיים שגייטס מציע

גוף מתאם לניהול המעבר

גייטס קורא להקים מערך תיאום שיחבר בין משרדי ממשלה, חוקרים, חברות וקהילות. מטרתו תהיה לעקוב אחר השפעות ה-AI, לצפות שיבושים בשוק העבודה ולקבוע כללים לשימושים מסוכנים לפני שהבעיות יתרחבו. 1719

מיסוי על החלפת עובדים ב-AI

הוא מציע גם מיסוי או מנגנונים דומים על אוטומציה ועל החלפת עובדים באמצעות בינה מלאכותית. ההיגיון הוא למנוע מצב שבו הרווחים מהחלפת עובדים זורמים בעיקר לחברות הטכנולוגיה, בעוד שהחברה נושאת בעלויות האבטלה, ההכשרה מחדש והעמקת אי-השוויון. 614

להשאיר תחומי עבודה לבני אדם

ההצעה הייחודית ביותר של גייטס היא "Human Reserved" — תחום של משרות או משימות שהחברה תחליט להשאיר לבני אדם גם כאשר AI או רובוטים יוכלו לבצע אותן. גייטס משווה את הרעיון לשמורת טבע: אזור מוגן שנוצר משום שפיתוח בלתי מוגבל עלול לגרום לאובדן בלתי הפיך. 81219

חלק מהתפקידים עשויים להישמר לצמיתות, משום שנוכחות אנושית בהם תיחשב חיונית. תפקידים אחרים עשויים לקבל הגנה זמנית, בעיקר עבור עובדים שאינם יכולים באופן מעשי לעבור הכשרה מחדש או למצוא מקצוע אחר. 8

בדיווחים על המאמר נכתב כי גייטס דיבר על אפשרות להשאיר עד כ-40% מהעבודה לבני אדם בתרחיש המרחיב ביותר. מדובר ברעיון מדיניות — לא בתחזית למספר המשרות שייעלמו ולא בחוק שכבר קיים. 11

גוף בינלאומי לפיקוח על AI

לדעת גייטס, רגולציה של מדינה אחת לא תספיק. הוא מציע להקים מוסד עולמי שיוכל לנטר מערכות AI מתקדמות, להעריך יכולות מסוכנות ולתאם אמצעי הגנה בין מדינות. 917

המסגרת המוצעת תוכל לשאוב רעיונות ממערכות בינלאומיות קיימות, ובהן פיקוח על מתקנים גרעיניים, תקני בטיחות בתעופה ופרוטוקול מונטריאול שנועד להתמודד עם חומרים הפוגעים בשכבת האוזון. בין תפקידיה האפשריים: אימות, התרעה מוקדמת, קביעת תקנים ושיתוף פעולה מול סיכונים שחוצים גבולות. 910

לפי דיווחים, גייטס ביקש לקיים שיחה עם נשיא סין שי ג'ינפינג על ניהול הסיכונים הבינלאומי של AI, כולל אפשרות לניטור השימוש הפוטנציאלי בטכנולוגיה בהתקפות ביולוגיות. הפגישה תוארה כמתוכננת באופן tentative — כלומר, טרם נקבעה סופית — וכל פיקוח עולמי משמעותי ידרוש שיתוף פעולה בין מעצמות ה-AI הגדולות, ולא פעולה חד-צדדית של מדינה אחת. 9

ההסתייגות של גייטס — ותפקידו כ"מעמיד אזעקה"

גייטס מודה שהוא אינו רגולטור ניטרלי ואינו מומחה ייעודי לבטיחות AI. הוא יזם טכנולוגיה ופילנתרופ, והקריירה שלו קשורה במידה רבה ליתרונות של חדשנות. דווקא משום כך, הוא אומר, אנשים בעלי השפעה צריכים לדבר בבהירות על הסיכונים ולא להמתין להסכמה מושלמת או לוודאות מוחלטת. 110

המסקנה המעשית שלו אינה תחזית שכל תרחיש האימה יתממש. זו אזהרה מפני חוסר מוכנות. גייטס סבור שהבינה המלאכותית יכולה להפוך ל"מכשיר השוויון הגדול ביותר שהומצא אי פעם" — או למקור החמור ביותר של אי-צדק — והתוצאה תיקבע לפי ההחלטות שיתקבלו לפני שהעקירה התעסוקתית, השימוש לרעה והנזק החברתי יהפכו לקשים מדי לתיקון. 418