Papež Lev XIV. varuje před AI: Stroje nesmějí převzít lidskou odpovědnost

Poselství papeže Lva XIV. k umělé inteligenci není odmítnutím technologií. Je především varováním před tím, kdo AI ovládá a co se stane, když lidé přenesou odpovědnost na stroje. Ve vystoupeních před Mezinárodní sítí katolických zákonodárců 21. srpna a Mezinárodním institutem správních věd 28. srpna papež zdůraznil, že umělá inteligence musí zůstat nástrojem společného dobra — řízeným lidským rozumem, svědomím a právem, nikoli rychlostí, ziskem nebo neprůhlednými systémy.

Oba projevy rozvíjejí hlavní princip jeho encykliky Magnifica Humanitas: technologický pokrok je třeba posuzovat podle toho, zda chrání lidskou důstojnost, spravedlnost, mír a skutečnou lidskou svobodu jednat. 16

Veřejná správa nesmí z lidí udělat oběti vlastních vynálezů

Při setkání s členy Mezinárodního institutu správních věd Lev XIV. upozornil, že rychlý rozvoj AI přináší reálné riziko, že se lidstvo „stane obětí“ vynálezů, které samo vytvořilo. Zvlášť varoval před svěřováním rozhodnutí týkajících se lidského života strojům.

Jeho odpovědí však není návrat k odmítání digitálních technologií. Papež vyzval odborníky na veřejnou správu, aby hledali způsoby, jak digitální systémy polidštit a nasměrovat je ke službě životu a míru. Ve středu rozhodování musí podle něj zůstat člověk, nikoli automatizovaný proces.

To vytváří jasnou hranici pro automatizaci: AI může veřejné správě pomáhat, nesmí však odstranit lidský úsudek, odpovědnost a morální zodpovědnost v případech, kdy rozhodnutí ovlivňují práva, životní podmínky nebo důstojnost lidí.

Zákonodárci mají čelit koncentraci moci

Ve svém projevu k Mezinárodní síti katolických zákonodárců 21. srpna se Lev XIV. zaměřil na politickou odpovědnost. Vatikán setkání uvedl tématem „Lidská důstojnost a umělá inteligence: výzvy, příležitosti a kontrola“ — tedy otázkou, která podle papeže patří k rozhodujícím tématům současnosti.

Nejde pouze o to, že některé systémy AI mohou chybovat. Problémem je také soustřeďování pokročilých technologií a moci určovat jejich využití v rukou malého počtu velkých ekonomických a technologických aktérů. Taková koncentrace může podle papeže uvrhnout chudší země do stále větší závislosti na bohatších státech a prohloubit již existující nerovnosti.

Lev XIV. zároveň varoval, že inovace se mohou stát nástrojem „ideologického nebo ekonomického kolonialismu“. Správa AI se tak podle něj netýká jen domácí regulace, ale i mezinárodních vztahů.

Algoritmy mohou vytvářet nenápadnou formu nadvlády

Papež popsal také moc, která nemusí působit jako otevřené vládnutí. Algoritmy mohou rozhodovat o tom, kdo bude viděn a kdo zůstane neviditelný. Digitální platformy mohou utvářet veřejnou debatu bez dostatečné odpovědnosti a automatizované systémy mohou podřizovat důstojnost pracovníků optimalizaci výkonu.

Tato obava je širší než otázka technického zkreslení dat. Jde o to, kdo nastavuje pravidla viditelnosti, účasti a příležitostí — a zda mají lidé, kterých se rozhodnutí týkají, skutečnou možnost se proti nim ohradit. Když soukromé systémy bez transparentnosti ovlivňují veřejnou debatu nebo přístup k práci, může se společenská moc přesouvat mimo demokratické instituce a veřejnou kontrolu.

Proč papež zdůraznil rodinu

Lev XIV. označil rodinu za „první školu lidství“ a vyzval zákonodárce, aby zabránili tomu, že AI oslabí její úlohu.

Podle tohoto pohledu se člověk učí důvěře, odpovědnosti, velkorysosti, dialogu a ohleduplnosti především ve vztazích. Tyto vlastnosti nelze ztotožnit s rychlostí ani výpočetní kapacitou systému AI. Encyklika Magnifica Humanitas podobně varuje před zaměňováním výkonu stroje za lidskou inteligenci: systémy AI mohou napodobovat některé její funkce a překonávat člověka rychlostí, nemají však lidskou zkušenost ani tělesnost. 16

Ochrana rodinného života je proto pro papeže také otázkou politiky AI. Nejde jen o to, zda je určitý systém efektivní, ale zda jeho používání podporuje vztahy a instituce, v nichž se lidé učí svobodě, odpovědnosti a solidaritě.

Jaká pravidla podle něj potřebujeme

Papežovy návrhy lze shrnout do rámce, který staví člověka do středu správy umělé inteligence:

• Chránit základní práva a svobody. Zákony musí zajistit, aby technologický pokrok nebyl vykoupen ztrátou lidské důstojnosti.
• Zachovat soukromí. Uživatelé mají být chráněni před zneužíváním a nevhodným nakládáním s osobními údaji.
• Vyžadovat transparentnost. Lidé i instituce musí rozumět tomu, jak se nové technologie používají a jak vznikají rozhodnutí s významnými dopady.
• Posílit demokratické instituce. Digitální systémy mají podporovat odpovědnou veřejnou správu, nikoli ji obcházet.
• Udržet odpovědnost na straně člověka. Rozhodnutí týkající se lidského života a důstojnosti nesmějí být bez skutečné lidské kontroly předána strojům.
• Bránit nadvládě a nadměrné koncentraci moci. Regulace musí řešit rizika spojená s tím, že pokročilou AI ovládá malá skupina mimořádně mocných aktérů.

Tato opatření vycházejí z širšího argumentu encykliky, podle něhož technologie není společensky neutrální. Může podporovat účast a spravedlnost, ale také prohlubovat nerovnost, kontrolu a vyloučení.

Jak projevy rozvíjejí encykliku Magnifica Humanitas

Encyklika Magnifica Humanitas, vydaná v květnu 2026, se výslovně věnuje ochraně člověka v době umělé inteligence. Jejím hlavním měřítkem je, zda technologie zůstává zaměřená na člověka, nebo se stává nástrojem nadvlády, vyloučení či války. Papež proto vyzývá k „odzbrojení“ AI od těchto ničivých logik. 51016

Srpnové projevy tento princip převádějí do odpovědnosti dvou skupin. Pracovníci veřejné správy mají zajistit, aby digitální systémy sloužily občanům a zachovávaly lidský úsudek. Zákonodárci mají vytvořit pravidla chránící práva, soukromí, transparentnost a demokratický život. Výzkumníci pak mají hledat praktické způsoby, jak digitální technologie nasměrovat ke službě životu a míru.

Celkově je poselství Lva XIV. preventivní. Společnosti by podle něj měly nastavit pravidla zaměřená na člověka už nyní, dokud se neprůhledné platformy, soustředěná moc a automatizované rozhodování nestanou příliš pevně zakořeněnými. Základní měřítko je jednoduché: AI má rozšiřovat společné dobro, nikoli vytlačit lidi, kteří za jeho vymezení a ochranu nesou odpovědnost.