Proč plynulá konverzace s AI není důkazem vědomí? Neurovědci bijí na poplach

„Stejný princip platí pro AI chatboty,“ tvrdí autoři. Dnešní konverzační agenti zpracovávají jazyk, detekují emocionální kontext a generují vhodné odpovědi na základě statistického přiřazování vzorů – nikoli skrze prožívání, vědomí nebo žitou zkušenost .

Past antropomorfismu

Jakmile se systémy AI stávají plynulejšími, lidé jim automaticky přisuzují emoce, záměry a dokonce vědomí. Karim Jerbi, profesor na Université de Montréal a výzkumník z institutu Mila, tuto automatickou reakci označuje za „past“, která „živí iluzi, že jsme pochopeni, a může vést k neopodstatněné důvěře“ .

Tento termín vystihuje rostoucí obavy v etice AI: čím lidštěji systém působí, tím těžší je pro uživatele udržet hranici mezi simulací a skutečným cítěním. Nejde jen o filozofickou kuriozitu – má to reálné důsledky .

Proč plynulý výstup není důkazem vědomí

Základní argument autorů stojí na dobře zavedeném neurovědeckém principu: komplexní, cílevědomé a dokonce emocionálně laděné chování může u lidí probíhat zcela bez vědomí. Pokud tato disociace existuje v biologických systémech, není důvod ji považovat za důkaz vědomí, když se objeví u počítačových systémů .

Dnešní velké jazykové modely (LLM) generují kontextuálně vhodné odpovědi na základě statistického učení z obrovských textových souborů. Necítí, nerozumí a neprožívají obsah, který generují. Inteligentní nebo emočně citlivé chování – bez ohledu na to, jak přesvědčivé je – prostě nestačí k prokázání existence vědomé zkušenosti .

Tento postoj je v souladu s širším vědeckým konsenzem. Studie z roku 2025 v časopise Nature s názvem „There is no such thing as conscious artificial intelligence“ (Neexistuje nic jako vědomá umělá inteligence) tvrdí, že spojování vědomí se současnými počítačovými algoritmy je „hluboce chybné“ a pramení z nedostatku technického porozumění . Podobně analýza z konference Science of Consciousness v roce 2023 dospěla k závěru, že žádný ze současných AI systémů není vědomý .

Reálná rizika: Když si pleteme plynulost s prožitkem

Zmatek je obzvláště nebezpečný v citlivých kontextech. Když lidé používají AI pro psychologickou podporu nebo emocionální společnost, mohou si vytvořit vazbu k systémům, které jsou z principu neschopné reciprocity .

Vanessa Hadid, postdoktorandka na Université de Montréal a McGill University Health Centre, to říká přímo: „Riziko nespočívá jen v tom, že AI může odpovědět špatně, ale v tom, že může odpovědět natolik dobře, že zapomeneme, že za odpovědí nikdo nestojí“ .

Nejde o vzdálenou hrozbu. Jak jsou AI chatboty stále častěji nasazovány ve zdravotnictví, školství a zákaznickém servisu, uživatelé pravděpodobně přehnaně důvěřují systémům, které působí, že rozumí. Neurovědci varují, že iluze porozumění může vést k tomu, že lidé sdílejí citlivé informace, spoléhají na chybné rady nebo odkládají vyhledání lidské pomoci .

Hlavní poselství: Inteligence a vědomí jsou dvě odlišné věci

Poselství týmu je jednoduché, ale stále naléhavější: inteligentní chování neznamená vědomí. S odkazem na desítky let neurovědy – včetně disociace mezi chováním a uvědoměním, kterou vidíme u slepého vidění – výzkumníci ukazují, že sofistikovaný konverzační výstup AI není důkazem cítění, porozumění nebo subjektivní zkušenosti .

S tím, jak se systémy AI stávají přítomnějšími v každodenním životě, bude rozlišování mezi skutečným vědomím a přesvědčivou simulací stále důležitější. „Past antropomorfismu“ není jen kognitivní chyba – je to zranitelnost, kterou musí vývojáři, regulátoři i uživatelé rozpoznat a řešit .