האפיפיור לאו ה־14 מזהיר: הבינה המלאכותית חייבת להישאר בשליטה אנושית

המסר של האפיפיור לאו ה־14 בנוגע לבינה מלאכותית אינו דחייה של הטכנולוגיה, אלא אזהרה מפני השאלה מי שולט בה ומה קורה כאשר בני אדם מעבירים למכונות אחריות ושיקול דעת.

בנאומים שנשא בפני רשת המחוקקים הקתולים הבין־לאומית ב־21 באוגוסט ובפני המכון הבין־לאומי למדעי המינהל ב־28 באוגוסט, הוא קרא להשאיר את הבינה המלאכותית כלי שנועד לשרת את טובת הכלל — בהכוונת תבונה אנושית, מצפון וחוק, ולא על פי מהירות, רווח או מערכות אטומות.

שני הנאומים מיישמים את העיקרון המרכזי של האיגרת האנציקלית שלו, Magnifica Humanitas: את הקדמה הטכנולוגית יש לבחון לפי השאלה אם היא מגינה על כבוד האדם, על הצדק, על השלום ועל היכולת האנושית לפעול ולקבל החלטות באופן עצמאי. 16

האזהרה למינהל הציבורי: אסור שבני אדם יהפכו לקורבנות של המצאותיהם

בפגישתו עם חברי המכון הבין־לאומי למדעי המינהל הזהיר לאו כי ההתפתחות המהירה של הבינה המלאכותית מעלה את האפשרות שהאנושות "תהפוך לקורבן" של ההמצאות שיצרה. הוא הזהיר במיוחד מפני העברת החלטות הנוגעות לחיי אדם לידי מכונות.

הפתרון שהציע אינו נטישת הטכנולוגיה הדיגיטלית, אלא האנשה שלה. הוא קרא לחוקרים ולמומחים במינהל הציבורי למצוא דרכים שבהן מערכות דיגיטליות ישרתו את החיים ואת השלום, תוך שמירה על בני האדם — ולא על תהליכים אוטומטיים — במרכז קבלת ההחלטות הציבורית.

מכאן נובע גבול ברור לאוטומציה: בינה מלאכותית יכולה לסייע למינהל, אך אסור לה למחוק את שיקול הדעת, האחריות והמחויבות המוסרית הנדרשים כאשר החלטות משפיעות על זכויותיהם, רווחתם או כבודם של אנשים.

האזהרה למחוקקים: הכוח בתחום ה־AI הולך ומתרכז

בנאומו ב־21 באוגוסט בפני רשת המחוקקים הקתולים הבין־לאומית התמקד לאו באחריות הפוליטית של המחוקקים. הוותיקן הגדיר את נושא המפגש כך: "כבוד האדם ובינה מלאכותית: אתגרים, הזדמנויות ובקרה" — מסגור שהציג את הסדרת הבינה המלאכותית כאחת השאלות המרכזיות של תקופתנו.

החשש אינו רק מכך שמערכות בינה מלאכותית עלולות לטעות. לדברי האפיפיור, טכנולוגיות מתקדמות — וגם הכוח לקבוע כיצד ישתמשו בהן — עלולות להתרכז בידי מספר קטן של שחקנים כלכליים וטכנולוגיים גדולים. ריכוז כזה עלול להפוך מדינות עניות לתלויות יותר במדינות עשירות ולהרחיב פערים קיימים.

הוא הזהיר גם מפני מצב שבו חדשנות תהפוך לכלי ל"קולוניאליזם אידיאולוגי או כלכלי". בכך הפך את הדיון בממשל AI משאלה רגולטורית מקומית בלבד לסוגיה בין־לאומית.

האלגוריתמים עלולים ליצור צורה סמויה של שליטה

לאו תיאר סיכון נוסף: אלגוריתמים ופלטפורמות יכולים להפעיל כוח גם בלי להיראות כמי שמושלים באופן ישיר. לדבריו, אלגוריתמים עשויים לקבוע מי ייראה ומי יישאר בלתי נראה, בעוד שפלטפורמות דיגיטליות מעצבות את השיח הציבורי בלי אחריותיות מספקת. מערכות אוטומטיות עלולות גם להכפיף את כבוד העובדים למטרת ייעול המערכת.

זהו חשש רחב יותר מבעיית ההטיה הטכנית. השאלה היא מי קובע את כללי הנראות, ההשתתפות וההזדמנויות — והאם לאנשים המושפעים מההחלטות יש דרך אמיתית לערער עליהן. כאשר מערכות פרטיות משפיעות על השיח הציבורי או על הגישה לעבודה בלי שקיפות, כוח חברתי עלול לעבור ממוסדות דמוקרטיים ומביקורת ציבורית למערכות אטומות.

מדוע הוא הדגיש את המשפחה

לאו כינה את המשפחה "בית הספר הראשון לאנושיות" וקרא למחוקקים למנוע מצב שבו הבינה המלאכותית תשחוק את תפקידה.

הרעיון הוא שההתפתחות האנושית מתחילה במערכות יחסים המלמדות אמון, אחריות, נדיבות, דיאלוג ודאגה לאחר. תכונות אלה אינן שקולות למהירות או ליכולת החישוב של מערכת בינה מלאכותית. גם Magnifica Humanitas מזהירה מפני הבלבול בין ביצועי מכונה לבין אינטליגנציה אנושית: מערכות AI יכולות לחקות פעולות מסוימות של תבונה ואף לעלות על בני אדם במהירות וביכולת חישוב, אך אין להן חוויה אנושית או גוף. 16

מבחינת לאו, הגנה על חיי המשפחה היא לכן גם חלק ממדיניות הבינה המלאכותית. השאלה אינה רק אם מערכת יעילה, אלא אם השימוש בה מחזק את היחסים והמוסדות שבאמצעותם אנשים לומדים חירות, אחריות וסולידריות.

אילו מנגנוני הגנה הוא ביקש מהמחוקקים ליצור

המלצותיו של לאו מצביעות על מסגרת לניהול בינה מלאכותית שבמרכזה האדם:

• הגנה על זכויות יסוד וחירויות: החקיקה צריכה להבטיח שהקדמה הטכנולוגית לא תבוא על חשבון כבוד האדם.
• שמירה על פרטיות: יש להגן על משתמשים מפני ניצול ומפני שימושים בלתי הולמים במידע אישי.
• דרישה לשקיפות: אנשים ומוסדות צריכים להבין כיצד נעשה שימוש בטכנולוגיות חדשות וכיצד מתקבלות החלטות בעלות השלכות משמעותיות.
• חיזוק מוסדות דמוקרטיים: מערכות דיגיטליות צריכות לחזק ממשל ציבורי אחראי — לא לעקוף אותו.
• השארת האחריות בידי בני אדם: החלטות הנוגעות לחיי אדם ולכבודו אינן יכולות להימסר למכונות ללא שליטה אנושית משמעותית.
• מניעת שליטה וריכוזיות מופרזת: מנגנוני הממשל צריכים להתמודד עם הסכנות שנוצרות כאשר בינה מלאכותית מתקדמת נשלטת בידי קבוצה קטנה של גורמים רבי־עוצמה.

הצעדים האלה משקפים את הטענה הרחבה יותר של האיגרת האנציקלית: טכנולוגיה אינה ניטרלית מבחינה חברתית. היא יכולה לעודד השתתפות וצדק, אך גם להחריף אי־שוויון, שליטה והדרה.

כיצד הנאומים ממשיכים את קו החשיבה של Magnifica Humanitas

האיגרת האנציקלית Magnifica Humanitas, שפורסמה במאי 2026, מוקדשת במפורש להגנה על האדם בעידן הבינה המלאכותית. המבחן המרכזי שהיא מציעה הוא אם הטכנולוגיה נותרת מכוונת לטובת האנושות, או הופכת לכלי של שליטה, הדרה ומלחמה. האיגרת קוראת למעשה "לפרק מנשקה" את הבינה המלאכותית — לשחרר אותה מההיגיונות ההרסניים האלה. 51016

הנאומים של אוגוסט מתרגמים את העיקרון הזה לאחריות של שתי קבוצות מרכזיות. על אנשי המינהל הציבורי לוודא שמערכות דיגיטליות משרתות את האזרחים ומשמרות שיקול דעת אנושי. על המחוקקים ליצור כללים שמגינים על זכויות, פרטיות, שקיפות והחיים הדמוקרטיים. לחוקרים, מצדו, יש תפקיד בזיהוי דרכים מעשיות לגרום לטכנולוגיות דיגיטליות לשרת את החיים והשלום.

בסופו של דבר, האזהרה של לאו היא אזהרה מונעת. הוא מבקש מהחברות לקבוע כללים המעמידים את האדם במרכז בזמן שמערכות AI עדיין מתפתחות ונפרסות — ולא להמתין עד שפלטפורמות אטומות, כוח מרוכז וקבלת החלטות אוטומטית יהיו מושרשים מכדי שאפשר יהיה לערער עליהם.

הקריטריון שהוא מציע פשוט: הבינה המלאכותית צריכה להרחיב את טובת הכלל, בלי להחליף את בני האדם שאחראים להגדיר אותה ולהגן עליה.