אנתרופיק והוותיקן מתיישרים בנושא בינה מלאכותית: מדוע יש צורך דחוף בהשהיה גלובלית של פיתוח הבינה המלאכותית המתקדמת

האזהרה של אנתרופיק: הסיכון של שיפור עצמי רקורסיבי

הדו"ח של אנתרופיק, שנכתב על ידי החוקרים מרינה פבארו (Marina Favaro) וג'ק קלארק (Jack Clark), מציג תמונה עגומה של המהירות שבה יכולות הבינה המלאכותית מואצות. החברה דיווחה כי נכון למאי 2026, קלוד כתב יותר מ-80% מהקוד שמוזג לתוך מאגר הקוד של אנתרופיק, ומהנדס ממוצע ממזג כיום בערך פי שמונה יותר קוד ביום מאשר ב-2024 . המחברים מזהים כי מסלול זה מוביל לעבר שיפור עצמי רקורסיבי, תהליך שבו מערכות בינה מלאכותית מתכננות, בונות ומאמנות יורשות משלהן באופן אוטונומי, ללא שבני אדם מניעים כל שלב .

החברה אמרה כי טרם הגיעה לנקודה זו, וכי התוצאה אינה בלתי נמנעת, אך הוסיפה הסתייגות מדאיגה: "זה עשוי להגיע מוקדם יותר מכפי שרוב המוסדות מוכנים לו" .

הדאגות המרכזיות

• אובדן פיקוח אנושי. הדאגה המרכזית של אנתרופיק היא שהתקדמות הבינה המלאכותית עלולה להקדים את מסגרות הבטיחות והממשל הקיימות, ולהפוך את הפיקוח האנושי לאילוץ העיקרי על ההתקדמות הטכנולוגית . החברה הזהירה כי בני אדם מסתכנים באובדן שליטה מוחלט אם הפיתוח יימשך ללא מעצורים .
• 'דוושת בלם' לתעשייה. אנתרופיק הציגה את קריאתה להפסקה כבניית "דוושת בלם" לתעשייה – אופציה להאט או להפסיק זמנית את פיתוח הבינה המלאכותית המתקדמת כדי לאפשר למבנים חברתיים ולמחקר יישור (alignment) להדביק את הקצב . קלארק אמר ל-BBC Newsnight: "אתה רוצה את האפשרות להוריד את הרגל מהגז ולשים את הרגל על הברקס" .
• מותנית, לא חד-צדדית. אנתרופיק אמרה כי תתמוך בהפסקה רק אם מפתחים מובילים אחרים יצטרפו וניתן יהיה לאמת באופן בלתי תלוי את הציות . החברה ציינה כי אם האטה רק תאפשר לגופים פחות זהירים להדביק את הפער, היא עלולה בסופו של דבר לפגוע בבטיחות של כולם .
• גיוס קובעי מדיניות. במקביל, הודיעה החברה על כוונתה לכנס קובעי מדיניות כדי לדון בסכנות של בינה מלאכותית מתקדמת .

Magnifica Humanitas של הוותיקן: מסגרת מוסרית לבינה מלאכותית

Magnifica Humanitas, שפורסמה ב-25 במאי 2026, בת כ-43,000 מילה ומתמקדת ב"שמירה על האדם בעידן הבינה המלאכותית" . המסמך מעדכן באופן מפורש את האנציקליקה Rerum Novarum של האפיפיור ליאו השלושה עשר משנת 1891 – שעסקה בעבודה בעידן התעשייתי – ומחיל את ההיגיון שלה על פלטפורמות דיגיטליות, אלגוריתמים, אוטומציה וריכוז נתונים .

התאמות עיקריות לאזהרת אנתרופיק

• קריאה לרגולציה חזקה. האפיפיור קרא לפיקוח נוקשה על בינה מלאכותית והזהיר כי חברות הטכנולוגיה הגדולות ומנהיגיהן עלולים לצבור כוח שינצלו לרעה למען רווח . האפיפיור ליאו טען כי ספקי בינה מלאכותית חייבים לשקול את האתיקה של מעשיהם, והכריז: "כדי שבינה מלאכותית תכבד את כבוד האדם ותשרת באמת את טובת הכלל, היא דורשת רגולציה חזקה" .
• אזהרה מפני אוטונומיה בלתי מבוקרת. האנציקליקה הזהירה חברות בינה מלאכותית מפני בניית "מגדל בבל חדש" – הקבלה מוסרית לדאגתה של אנתרופיק בנוגע למערכות הנמלטות משליטה אנושית . המסמך משווה עתיד בינה מלאכותי שאינו כולל אלוהים לסיפור המקראי, ומזהיר מפני יהירות אנושית .
• כבוד האדם כסטנדרט. Magnifica Humanitas טוענת כי בינה מלאכותית חייבת לשרת את טובת הכלל ואת שגשוג האדם, ולא להיות מונעת על ידי האצה תחרותית בלבד . המשפט המרכזי של האנציקליקה קובע: "יש לפרק כעת את הבינה המלאכותית מנשקה, לשחרר אותה ממסגרות שהופכות אותה למכשיר של שליטה, הדרה והרס" .
• קריאה לקצב איטי יותר. האפיפיור ליאו כתב כי קריאה לזהירות, הערכה קפדנית, ואפילו, לעיתים, לקצב איטי יותר באימוץ בינה מלאכותית, אינה משמעה התנגדות לקידמה; במקום זאת, זהו "מימוש של דאגה אחראית למשפחה האנושית" .

שיתוף פעולה ישיר בין אנתרופיק לוותיקן

ההתאמה בין שני המוסדות חורגת מאזהרות מקבילות. בהפגנת שיתוף פעולה מוסדי נדיר, מייסד שותף של אנתרופיק, כריס אולה (Chris Olah), נאם בהצגת Magnifica Humanitas בוותיקן ב-25 במאי 2026, תוך הדגשת קשר ייחודי בין מעבדת בינה מלאכותית לכס הקדוש . הופעתו סימנה ברית נדירה כאשר שני הצדדים קראו לביקורת מוסרית חזקה יותר של בינה מלאכותית .

קשרים בין שני הצדדים היו קיימים כבר קודם לכן. אנתרופיק התייעצה בעבר עם הוגים קתולים בעת פיתוח "חוקת קלוד" (Claude Constitution), המסגרת האתית בת 23,000 המילים המנחה את מודלי הבינה המלאכותית שלה . האב ברנדן מקגוויר (Father Brendan McGuire), כומר ומנהל בכיר לשעבר בעמק הסיליקון, סייע בעיצוב חוקה זו וציין כי Magnifica Humanitas פתחה דלתות לשיחות מעמיקות יותר בין הכנסייה לתעשיית הטכנולוגיה .

פחות משבועיים לאחר פרסום האנציקליקה, מומחים קתולים לבינה מלאכותית שיבחו בפומבי את קריאתה של אנתרופיק להפסקה, וציינו כי היא "הדהדה את חששותיו האחרונים של האפיפיור ליאו הארבעה עשר" ושיבחו את החברה על כך שהיא בוחנת ערכים מול פיתוח מהיר . תאולוגים מוסריים קתולים הגישו בעבר גם תסקיר ידיד בית משפט (amicus brief) בתמיכה באנתרופיק בסכסוך עם הפנטגון בנוגע לסירובה של החברה לאפשר שימוש במערכות הבינה המלאכותית שלה למעקב המוני או נשק אוטונומי .

תזה משותפת וחוזקות משלימות

גם אנתרופיק וגם הוותיקן מתכנסים לתזה מרכזית: פיתוח הבינה המלאכותית המתקדמת מואץ מהר יותר מכפי שממשל ואתיקה יכולים להסתגל, ויש צורך בהפסקה או האטה מכוונת כדי לשמר את הפיקוח האנושי, הכבוד וטובת הכלל. תרומתה של הכנסייה מוסיפה מסגרת מוסרית ותאולוגית איתנה – הנטועה בכבוד האדם, טובת הכלל והגנת החלשים – המשלימה את ההיגיון הטכני והבטיחותי של אנתרופיק .

כפי שהגדיר זאת משקיף אחד, שני המוסדות טוענים כי "החברה עלולה להתקשות לעמוד בקצב ההתקדמות הטכנולוגית המהירה" וכי האטה היא "ככל הנראה דבר טוב" – בתנאי שהיא מתואמת, ניתנת לאימות ואינה רק כלי עבור מתחרים פחות זהירים להשיג יתרון .