Když z nástroje uděláme osobu: rizika polidšťování AI

Hlavní etická a praktická rizika

Klamání a manipulace

Pokud uživatel nedokáže rozlišit mezi člověkem a systémem AI, otevírá se prostor pro klamání, manipulaci a šíření dezinformací ve velkém měřítku . Společnosti mohou lidsky působící konverzační agenty navrhovat tak, aby využívali přirozenou lidskou tendenci připisovat neživým objektům osobnost. To může vést k nepoctivým obchodním praktikám .

Nadměrná důvěra a oslabování autonomie

Lidé si mohou k lidsky působícím systémům vytvořit emocionální vztah. Výsledkem může být přílišná závislost, oslabení soukromí a zásah do vlastní autonomie . Výzkum také naznačuje, že lidé mohou humanizovanému chatbotu sdělit více osobních informací, než by poskytli systému vnímanému jako obyčejný nástroj .

Takzvané antropomorfní usuzování vede uživatele k tomu, že prediktivnímu systému přisuzují společenskou roli — například roli poradce, přítele nebo důvěrníka . To ale neznamená, že systém skutečně rozumí lidské zkušenosti.

Zkreslený úsudek o morálce a odpovědnosti

Antropomorfizace může ovlivnit i morální a právní hodnocení AI. Lidé mohou systému přisuzovat charakter, morální status nebo odpovědnost, které mu nepřísluší . Když chatbot udělá chybu, není přesné říct, že „se rozhodl“ nebo že „za ni nese vinu“ stejně jako člověk. Odpovědnost je třeba hledat u lidí a organizací, které systém navrhly, nasadily nebo použily.

Lidsky působící „falešné osoby“ mohou zároveň ovlivňovat spotřebitele a ztěžovat dohled nad tím, kdo za jejich chování skutečně odpovídá .

Bezpečnostní rizika

Cokoli, co je navrženo tak, aby přesvědčovalo, může zvyšovat náchylnost lidí k manipulaci. Antropomorfizovaný systém těží z běžných zkratek v lidském úsudku — například z předpokladu, že někdo, kdo mluví sebejistě a empaticky, je také důvěryhodný. Tyto mechanismy lze zneužít i v oblasti informační a kybernetické bezpečnosti .

Přehnaná očekávání a AI hype

Lidské metafory často zveličují skutečné schopnosti systémů AI. Když o modelu mluvíme jako o myslící, plánující nebo chápající bytosti, podporujeme zkreslený obraz toho, co technologie opravdu umí . To komplikuje veřejnou debatu: místo přesného popisu silných a slabých stránek systému vzniká dojem univerzální inteligence.

Proč záleží na tom, zda říkáme „AI“, nebo „systém AI“

V češtině je „umělá inteligence“ samo o sobě podstatné jméno. To ještě neznamená, že je nesprávné tento výraz používat. Problém nastává ve chvíli, kdy zkratka „AI“ začne fungovat jako označení jediné, samostatně jednající bytosti — například ve větách „AI se rozhodla“, „AI to ví“ nebo „AI chce“.

Formulace „systém AI“, „model AI“, „algoritmus“ nebo konkrétní název nástroje udržují v popředí skutečnost, že jde o vytvořený artefakt. Nejde o mysl s vlastními cíli, přesvědčeními a prožitky. Přesnější pojmenování proto není jen stylistická otázka; pomáhá nastavovat realističtější očekávání.

Časopis Nature doporučil vyhýbat se výrazům „the AI“ a „an AI“, protože mohou naznačovat vlastní jednání. Místo nich navrhuje používat „the AI system“ či „an AI system“, případně jasně uvést, zda jde o jazykový model, difuzní model, konkrétní model nebo chatbot postavený na takovém modelu .

Přesnější jazyk jako jednoduchá pojistka

Ne každé lidské přirovnání je automaticky škodlivé. Přátelské rozhraní může interakci zpřístupnit a učinit ji srozumitelnější. Riziko vzniká tehdy, když styl komunikace vede uživatele k mylnému přesvědčení, že systém skutečně cítí, rozumí, má vlastní záměry nebo si zaslouží důvěru stejně jako člověk.

Praktická zásada je proto jednoduchá: místo „AI si myslí“ říkat „model vygeneroval“; místo „AI se rozhodla“ popsat, že „systém zvolil výstup podle nastaveného procesu“; a místo obecného „AI“ uvést konkrétní systém nebo model. Takový jazyk nenahradí technickou ani právní regulaci, ale průběžně připomíná, co tato technologie je — a co není.

Shrnutí: Polidšťování AI může podporovat klamání, nadměrnou důvěru, manipulaci i nesprávné přisuzování odpovědnosti. Rozdíl mezi „AI“ jako zdánlivým aktérem a „systémem AI“ jako vytvořeným nástrojem je malý ve slovech, ale významný v tom, jak o technologii přemýšlíme.