AI může prospívat lidem. Papež Lev XIV. ale chce, aby její rozvoj hlídala společná pravidla

Umělá inteligence může lidem pomáhat, její přínosy ale nejsou samozřejmé. Papež Lev XIV. proto žádá, aby její vývoj i používání měly jasné etické hranice a podléhaly veřejnému dohledu. Upozorňuje na rizika od dezinformací a společenského rozdělování až po využití AI ve válce. Podle něj by řešení nemělo zůstat jen na jednotlivých státech nebo technologických firmách.459

AI má sloužit lidem, ne jen výkonu a zisku

Papež nevyzývá k odmítnutí technologického pokroku. Jeho cílem je, aby AI sloužila lidské důstojnosti a společnému dobru. Ve své první encyklice, tedy významném papežském dokumentu, Magnifica Humanitas zdůrazňuje také pravdu, důstojnost práce, sociální spravedlnost a mír.1216

Přínosy podle něj nelze brát jako automatické. Ve svém prvním zásadním dokumentu o AI varoval před systémy, které mohou šířit dezinformace a upřednostňovat konflikt. Bez etického dohledu může umělá inteligence také prohlubovat nerovnost a oslabovat mezilidské vztahy.49

Důležité je i to, jak technologie ovlivňuje společnost. Lev vyzval k vývoji systémů, které neprohlubují rozdělení, ale naopak podporují mír a posilují vztahy mezi lidmi.2

Když o životě rozhodují autonomní zbraně

Nejostřejší varování papeže míří k využití AI ve válce. U autonomních zbraní podle něj hrozí, že lidé ztratí kontrolu nad rozhodováním o životě a smrti. Agentura Reuters při popisu jeho prvního zásadního dokumentu uvedla, že některé systémy se podle papeže posunuly tak daleko, že je prakticky nelze lidsky řídit.4 BBC informovala také o jeho obavě, že omezení lidské kontroly ztěžuje posouzení, zda lze válku považovat za spravedlivou, a o jeho varování před závody ve zbrojení pomocí AI.6

Rizikem podle něj není jen selhání konkrétní zbraně. AI může konflikt také vystupňovat a ztížit určení odpovědnosti. Papež varoval, že by svět mohla zavést na cestu nekonečné války.24

Proč nestačí dobrovolné etické zásady

Lev žádá důslednou regulaci a vyzývá vývojáře AI, aby pracovali pro společné dobro, ne pouze za účelem zisku.5 Tento požadavek navazuje na širší postoj Vatikánu: technologická tvořivost má mít prostor, současně je však třeba chránit lidská práva a důstojnost kvalitní legislativou.8

Vatikánská varování navíc nezačala až s nedávnými výzvami technologických firem. Reuters uvedla, že představitelé Vatikánu upozorňovali na riziko katastrofy způsobené AI už několik let předtím, než na něj velké americké technologické společnosti poukázaly v Radě bezpečnosti OSN v září 2026.1 Lev také navazuje na dlouhodobější úsilí církve reagovat na společenské změny: už v roce 2025 řekl, že církev musí reagovat na novou průmyslovou revoluci a rozvoj AI.

Proč papež zdůrazňuje spolupráci mezi státy

Vatikánský státní sekretář kardinál Pietro Parolin varoval před tím, aby státy postupovaly každá sama. Vyzval k zamyšlení nad důsledky AI a zmínil i nedávné výzvy velkých technologických společností k její regulaci. Vatikán zdůrazňuje, že společné výzvy vyžadují spolupráci zemí, nikoli oddělené národní přístupy.

Výzvy firem ale nemají nahrazovat veřejná pravidla. Patří mezi hlasy v širší debatě o tom, jak má dohled nad AI vypadat. V září se přibližně 30 amerických biskupů sešlo za zavřenými dveřmi se sedmi odborníky na AI, kteří zastupovali čtyři technologické společnosti. Konference katolických biskupů USA zároveň vytvořila pracovní skupinu pro AI.

Postoj papeže lze shrnout jako výzvu nastavit pravidla dříve, než používání AI ve společnosti i ve válce předběhne lidský úsudek. Její možnosti uznává, zároveň však trvá na tom, že ochrana lidí, zachování míru a smysluplné pojistky musí být na prvním místě.2512