AI nemá být náboženskou autoritou, říká Sam Altman

Sam Altman uvedl, že je mu „velmi nepříjemné“, když lidé připisují modelům umělé inteligence „náboženskou sílu“ nebo jim odevzdávají vlastní úsudek. Označil to za „skutečný bezpečnostní problém“. Anthropic ve svém příspěvku přímo nezmínil, ale protože jeho slova přišla jen několik dní po zprávách o debatách této firmy s náboženskými mysliteli, média je četla jako nepřímou kritiku jejího přístupu. 71

Klíčové je nezaměňovat dvě různé věci: zkoumat, jak se má AI chovat nebo zda by mohla být vědomá, a vyzývat lidi, aby ji považovali za duchovní autoritu. Zprávy popisují, že Anthropic se zabýval prvními otázkami. Jeho spoluzakladatel Christopher Olah zároveň řekl, že neví, zda jsou modely AI vědomé, a že si tím není jistý. 1

Před čím Altman varoval

Altman spojil dvě obavy: přisuzování náboženské moci umělé inteligenci a přenechávání lidského úsudku modelu. Takovou kombinaci označil za bezpečnostní problém. Ve svém příspěvku ale nejmenoval žádnou firmu ani projekt, takže spojení s Anthropic vychází z okolností a načasování, nikoli z přímého obvinění. 7

Varování přesahuje samotnou debatu o náboženství. Pokud lidé začnou sebejisté, lidsky znějící odpovědi modelu považovat za autoritativní, mohou mu svěřit větší vliv na svá rozhodnutí, než odpovídá tomu, co model skutečně prokazatelně umí. Citované zprávy dokládají Altmanovo varování, neříkají však, jak rozšířený takový přístup je ani jaké má následky. 67

Proč se mluvilo o Anthropic

Anthropic podle zpráv konzultoval s náboženskými mysliteli, jak utvářet morální chování svého chatbota Claude a zda by modely AI mohly být vědomé. Témata se překrývala s Altmanovým varováním, a proto jeho příspěvek působil jako reakce na práci firmy. 17

Rozlišení je ale podstatné. Olah uvedl: „Nevíme, zda jsou modely AI vědomé,“ a dodal, že on sám si tím není jistý. Debata o možné vědomé zkušenosti není důkazem, že ji model skutečně má. A konzultace s náboženskými mysliteli o morálním chování sama o sobě neznamená, že by model získával náboženské postavení. 1

Vědomí a morální chování nejsou totéž

Model lze nastavit tak, aby se řídil doporučeními pro své odpovědi. To samo o sobě ale nedokazuje, že má vlastní vnitřní prožívání. Zprávy o Anthropic se týkaly jak chování Clauda, tak možnosti, že by AI mohla být vědomá; tyto otázky není namístě slučovat do jediného tvrzení. 1

Zprávy zaznamenaly také námitky vůči přístupu, který s modely při trénování zachází jako s vědomými. Výkonný pracovník Microsoftu varoval, že takový postup může být nebezpečný. Jde o popsanou obavu, nikoli o vyřešení širší otázky strojového vědomí. Olahův vyjádřený postoj byl podle zprávy nejistota. 91

V centru pozornosti zůstává člověk

Papež Lev XIV. postavil svou výzvu týkající se AI do souvislosti s lidskou důstojností. Podle zpráv jeho encyklika vyzvala k důslednějšímu dohledu nad firmami vyvíjejícími AI, k ochraně pracovníků ohrožených změnami na trhu práce a k opatřením proti falešným informacím vytvářeným umělou inteligencí. I to připomíná, proč by při vývoji a používání AI měly zůstat v centru lidské zájmy a odpovědnost. 152

Pod drobnohledem je i OpenAI

Debata probíhala souběžně se zprávami o dění v OpenAI. Business Insider informoval, že bezpečnostní pracovník David Robinson z firmy odešel a kritizoval její přístup k bezpečnosti. BBC zase uvedla, že OpenAI propustila tři výzkumníky kvůli údajnému nesprávnému nakládání s informacemi. Tyto zprávy neodpovídají na otázku, zda mohou být modely AI vědomé, jsou však relevantní pro širší debatu o správě firem a důvěryhodnosti jejich tvrzení. 1226

Nejstřízlivější závěr není rozsudkem nad Anthropic ani OpenAI: Altman varoval před tím, aby lidé přisuzovali modelům náboženskou autoritu nebo jim svěřovali vlastní úsudek. Zprávy o Anthropic otevřely související otázky o morálním chování Clauda a možném vědomí, ale nedokládají, že firma Claudovi přisoudila náboženskou autoritu — ani že otázka vědomí AI je vyřešená. 71