האפיפיור, פיטר תיל וסין: מי יקבע את כללי הבינה המלאכותית?

פיטר תיל והאפיפיור לאו ה־14 אינם מתווכחים רק על השאלה אם בינה מלאכותית מסוכנת. המחלוקת ביניהם היא מי ישלם את מחיר ההגבלות: תיל חושש שארצות הברית ובעלות בריתה יאטו בזמן שסין תמשיך להתקדם; לאו טוען שסיכוני הטכנולוגיה חוצים גבולות ולכן מחייבים פיקוח בינלאומי. אף אחת מהעמדות, כשלעצמה, אינה מספקת מתווה מוסכם לכללים כאלה. 11720

מה עומד מאחורי ההאשמה של תיל?

בשיחה עם מנכ״ל קבוצת התקשורת אקסל שפרינגר, מתיאס דפנר, בברלין ב־24 בספטמבר, כינה תיל את לאו ״אידיוט שימושי עבור [המפלגה הקומוניסטית הסינית]״. לפי ההיגיון שהציג, סין לא תישמע לקריאת האפיפיור להסדיר את תחום ה־AI, אבל אמריקאים עשויים להישמע לה. כך, לטענתו, ריסון במערב עלול להועיל למתחרה. זו טענה על ההשפעה האפשרית של רגולציה — לא ראיה לכך שלאו פועל בשם סין. 13

דבריו של תיל כוונו לאיגרת האפיפיורית שפרסם לאו במאי, Magnifica Humanitas, ולקריאתו הרחבה לפיקוח על AI. הדיווחים אינם מבססים שהיו תגובה ישירה לדברים שאמר האפיפיור בכינוס בוותיקן באותו יום. תיל מתח ביקורת על עמדתו גם מוקדם יותר בקיץ. 17

האם לאו מתנגד לבינה מלאכותית?

לא. ב־21 בספטמבר קרא לאו לפתח מערכות שלא יעמיקו שסעים בחברה, אלא יחזקו יוזמות שלום וישרתו את כבודו של כל אדם. במאי הוא קרא למנהיגי העולם לקבוע כללים בינלאומיים לפיקוח על התעשייה; לפי רויטרס, הוא שב והזהיר מפני סיכוני AI בכינוס בוותיקן ב־24 בספטמבר. הדיווח הזמין אינו מאפשר לאמת את הנוסח המדויק של דבריו שם. 1720

גם הוותיקן לא החל לעסוק בנושא רק בעקבות האזהרות האחרונות מצד חברות טכנולוגיה אמריקאיות. לפי רויטרס, הוא התריע על סיכונים חמורים שנים לפני שהחברות העלו חששות במועצת הביטחון של האו״ם באותו שבוע. האב פאולו בננטי, יועץ הוותיקן לענייני AI, הדגיש שאין זו נקודת ההתחלה של עיסוק הכס הקדוש בנושא. במאי הציג לאו את איגרתו לצד כריסטופר אולה, ממייסדי חברת הבינה המלאכותית Anthropic — ביטוי לדיאלוג עם מפתחי הטכנולוגיה, ולא לדחייה גורפת שלה. 204518

האם אפשר לקבוע כללים שיחולו על כולם?

זו השאלה שתיל ולאו מציבים משני כיוונים. תיל מזהיר שכללים שיאמצו מדינות מסוימות לא בהכרח יחייבו את מתחרותיהן. לאו מדגיש שסיכונים לכבוד האדם ולשלום אינם נעצרים בגבול. עדיין לא ברור אם ממשלות יוכלו להסכים על אמצעי הגנה שיצמצמו סיכונים בלי להטיל על חלקן מחיר תחרותי לא שווה. 11720

לאו אמור לשאת דברים ב־25 בספטמבר במטה אונסק״ו בפריז. אונסק״ו, ארגון החינוך, המדע והתרבות של האו״ם, הודיע כי יום הדיונים יעסוק בין השאר בבינה מלאכותית, בחינוך, באמינות המידע ובשלום. לפי הארגון, זהו הביקור הראשון של אפיפיור במטהו זה יותר מארבעה עשורים; ההודעה אינה קובעת שזהו ביקורו הראשון של לאו בצרפת. הנאום המתוכנן יעניק לו במה נוספת להצגת עמדתו — אך אינו מעיד שמדינות כבר הסכימו על כללים משותפים. 2628