Varování před nebezpečnou AI nejsou „fake news“, říká papež Lev

Při návratu z Francie do Říma 28. září papež Lev XIV. odmítl označovat varování před nebezpečnou umělou inteligencí za „fake news“. Podle něj je třeba obavy odborníků brát vážně, mluvit o možných rizicích a nečekat, jako by se nemohlo nic stát. 26

Co papež řekl na palubě letadla

Novináři se Lva ptali na možnost, že by AI mohla představovat katastrofickou hrozbu. Papež odpověděl, že je to problém, o kterém je potřeba společně jednat. Neříkal, že katastrofa je nevyhnutelná — zdůraznil, že vážná rizika se nemají odmávnout bez debaty a reakce. 26

Agentura Reuters jeho slova popsala jako zjevné napomenutí amerického prezidenta Donalda Trumpa. Lev také kritizoval technologické šéfy, kteří tvrdí, že AI nepotřebuje žádná ochranná pravidla. 7

Rozdíl oproti Trumpovu pohledu

Trump označil obavy, že by se AI mohla vymknout kontrole, za „hoax“. 2 Papež zaujal opačný postoj: varování odborníků podle něj zasluhují vážné posouzení a také konkrétní kroky. 27

Ve hře tak není jen volba mezi inovacemi a bezpečností. Zpravodajství zachycuje Trumpův důraz na soutěžení s Čínou, zatímco Lev varuje před tím, aby se možné škody předem nezlehčovaly. 2

Anthropic a Nvidia: co lze říct a co už ne

Do širší debaty patří i postoj šéfa společnosti Anthropic Daria Amodeie: Reuters uvedl, že prosazoval pravidla vyžadující nezávislé audity pokročilých modelů AI. 1 Jde o doložený názor generálního ředitele firmy, nikoli o důkaz, že papež na palubě reagoval na konkrétní varování jejích výzkumníků.

Dostupné zdroje zároveň nepotvrzují přesný postoj šéfa Nvidie Jensena Huanga k regulaci AI. Nebylo by proto podložené tvrdit, že Levovy výroky mířily přímo na něj.

K čemu Lev vyzval — a co konkrétně nepředložil

Na zpátečním letu papež vyzval, aby lidé brali obavy odborníků vážně, o problému mluvili a nepředstírali, že se nic nemůže stát. 26 Zprávy o jeho vystoupení ale nedokládají, že by tehdy předložil podrobný plán pro politiky, technologické firmy a občanskou společnost.

Širší kontext nabídla jeho návštěva Francie. V projevu v Elysejském paláci varoval před ztrátou lidskosti v „ráji strojů“ a vyzval k rozvoji etického úsudku v době, kdy technologie zasahují do každodenního života. 8 Tato slova dokládají jeho obecnější snahu udržet člověka a jeho úsudek v centru debat o technologiích — je však dobré je odlišovat od toho, co výslovně řekl novinářům při letu do Říma.