Папа Лев XIV про ШІ: машини не повинні підміняти людську відповідальність

Послання Папи Лева XIV про штучний інтелект — це не відмова від технологій, а попередження про те, хто ними керує і що станеться, якщо людську відповідальність передадуть машинам. У виступах перед Міжнародною мережею католицьких законодавців 21 серпня та Міжнародним інститутом адміністративних наук 28 серпня він закликав зберігати ШІ інструментом спільного блага — керованим людським розумом, совістю і законом, а не швидкістю, прибутком чи непрозорими системами.

Обидві промови розвивають центральний принцип його енцикліки Magnifica Humanitas: технологічний прогрес слід оцінювати за тим, чи захищає він людську гідність, справедливість, мир і справжню здатність людей діяти самостійно. 16

Попередження державним управлінцям: люди не повинні ставати жертвами власних винаходів

Звертаючись до учасників Міжнародного інституту адміністративних наук, Лев XIV застеріг, що стрімкий розвиток ШІ створює ризик, за якого людство може «стати жертвою» власних винаходів. Окремо він попередив про небезпеку доручати машинам рішення, що стосуються людського життя.

Водночас його відповідь — не відмова від цифрових технологій, а їхня гуманізація. Папа закликав дослідників у сфері державного управління шукати способи, завдяки яким цифрові системи служитимуть життю і миру, а в центрі державних рішень залишатимуться люди, а не автоматизовані процеси.

Це встановлює чітку межу автоматизації: ШІ може допомагати в управлінні, але не повинен стирати людське судження, відповідальність і моральну підзвітність, необхідні тоді, коли рішення впливають на права, добробут або гідність людей.

Попередження законодавцям: влада над ШІ концентрується

У промові 21 серпня перед Міжнародною мережею католицьких законодавців Лев XIV зосередився на політичній відповідальності парламентарів. Ватикан визначив тему зустрічі як «Людська гідність і штучний інтелект: виклики, можливості та контроль», назвавши регулювання ШІ одним із визначальних питань сучасності.

Проблема полягає не лише в тому, що окремі системи ШІ можуть помилятися. Передусім ідеться про ризик концентрації передових технологій та впливу на їхнє застосування в руках невеликої кількості великих економічних і технологічних гравців. Папа попередив, що це може зробити бідніші країни дедалі залежнішими від заможніших і посилити вже наявну нерівність.

Він також застеріг, що інновації можуть перетворитися на інструмент «ідеологічного чи економічного колоніалізму». Отже, управління ШІ — це міжнародне питання, а не лише предмет внутрішньої регуляторної дискусії.

Алгоритми здатні створити непомітну форму домінування

Лев XIV описав іще один ризик: алгоритми та платформи можуть здійснювати владу, не виглядаючи безпосередньо владними інституціями. За його словами, алгоритми можуть визначати, кого бачать, а хто залишається невидимим, тоді як цифрові платформи формують суспільний дискурс без належної підзвітності. Автоматизовані системи також можуть підпорядковувати гідність працівників логіці оптимізації.

Це ширше за проблему суто технічної упередженості. Йдеться про те, хто встановлює правила видимості, участі та доступу до можливостей — і чи мають люди, яких стосуються ці рішення, реальний спосіб їх оскаржити. Коли приватні системи без прозорості впливають на публічну розмову або доступ до роботи, суспільна влада може віддалятися від демократичних інституцій і громадського контролю.

Чому Папа наголосив на ролі сім’ї

Лев XIV назвав сім’ю «першою школою людяності» та закликав законодавців не допустити, щоб ШІ послабив її роль.

Ідеться про те, що становлення людини починається у стосунках, де вона вчиться довірі, відповідальності, щедрості, діалогу та турботі про інших. Ці якості не можна ототожнювати зі швидкістю чи обчислювальними можливостями системи ШІ. Magnifica Humanitas так само застерігає від ототожнення продуктивності машини з людським інтелектом: системи ШІ можуть імітувати окремі інтелектуальні функції та перевершувати людей у швидкості, але не мають людського досвіду чи тілесності. 16

Тому для Папи захист сімейного життя є частиною політики у сфері ШІ. Важливо запитувати не лише, чи є система ефективною, а й чи підтримує її використання стосунки та інституції, через які люди вчаться свободі, відповідальності й солідарності.

Які запобіжники Папа закликає створити

Рекомендації Лева XIV окреслюють людиноцентричну модель управління штучним інтелектом:

• Захищати основоположні права і свободи. Законодавство має гарантувати, що технологічний прогрес не відбуватиметься ціною людської гідності.
• Зберігати приватність. Користувачів слід захищати від експлуатації та неналежного використання персональної інформації.
• Вимагати прозорості. Люди й інституції повинні розуміти, як застосовуються нові технології та як ухвалюються рішення з істотними наслідками.
• Зміцнювати демократичні інституції. Цифрові системи мають посилювати підзвітне державне управління, а не обходити його.
• Залишати відповідальність за людиною. Рішення, що впливають на життя та гідність людини, не можна передавати машинам без реального людського контролю.
• Не допускати домінування та надмірної концентрації влади. Регулювання має враховувати ризики, що виникають, коли передовий ШІ контролює невелика група впливових гравців.

Ці заходи відображають ширший аргумент енцикліки: технології не є соціально нейтральними. Вони можуть сприяти участі та справедливості, але водночас посилювати нерівність, контроль і відчуження.

Як промови розвивають ідеї Magnifica Humanitas

Опублікована в травні 2026 року енцикліка Magnifica Humanitas прямо присвячена захисту людини в добу ШІ. Її головний критерій — чи залишається технологія орієнтованою на людство, а не перетворюється на інструмент домінування, виключення або війни. Енцикліка закликає «роззброїти» ШІ, звільнивши його від такої руйнівної логіки. 51016

У серпневих виступах цей принцип перетворюється на конкретні обов’язки для двох груп. Державні управлінці мають гарантувати, що цифрові системи служать громадянам і зберігають людське судження. Законодавці — створити правила для захисту прав, приватності, прозорості та демократичного життя. Дослідники, своєю чергою, повинні шукати практичні способи зробити цифрові технології інструментом життя і миру.

Разом ці заяви Лева XIV мають превентивний характер. Він закликає суспільства встановити людиноцентричні правила ще тоді, коли системи ШІ розробляють і впроваджують, а не після того, як непрозорі платформи, концентрована влада й автоматизоване ухвалення рішень стануть надто вкоріненими, щоб їх можна було оскаржити. Запропонований ним критерій простий: ШІ має розширювати спільне благо, не витісняючи людей, відповідальних за його визначення та захист.