Přestaňte říkat „ta AI“. Jazyk, který používáme, určuje, jak nebezpečné polidšťování technologií je

Klamavá síla lidského designu

Hlavním etickým problémem antropomorfní AI je podvod v masovém měřítku. Když uživatelé nedokážou spolehlivě rozlišit mezi lidskými partnery a AI systémy, hrozí klamání, manipulace a dezinformace . Firmy mohou záměrně navrhovat lidsky působící konverzační agenty, aby zneužily vrozenou tendenci lidí personifikovat, čímž vzniká to, čemu výzkumníci říkají „antropomorfní svádění“ – přitažlivost přesvědčivé lidské interakce bez jediné skutečné lidské vlastnosti, jako je porozumění nebo empatie . Firemní využívání těchto „falešných lidí“ může manipulovat spotřebiteli a zároveň se vyhýbat odpovědnosti .

Nadměrná důvěra, citová vazba a oslabení autonomie

Uživatelé, kteří si vytvoří citové pouto k lidsky působící AI, riskují nadměrnou důvěru a narušení soukromí a autonomie . Výzkum ukazuje, že lidé jsou ochotnější sdílet osobní údaje s polidštěným chatbotem než s jasně mechanickým rozhraním . Dynamika „antropomorfní inference“ vede uživatele k tomu, že přisuzují sociální role v podstatě prediktivním textovým systémům, čímž se statistické výstupy mění na zdánlivě společenské reakce, jako jsou rady nebo společnost .

Pokřivené morální a právní úsudky

Antropomorfismus funguje jako klam, který zkresluje morální úsudky o AI. Uživatelé mohou nesprávně přisoudit stroji morální charakter, postavení nebo odpovědnost . Když chatbot vypadá lidsky, lidé používají to, co psychologové nazývají „heuristické zpracování“ – zkratkové myšlení, které je vede k tomu, že s nástrojem zacházejí, jako by byl schopen chvály, viny nebo důvěry, což žádný pouhý algoritmus není . Tento zmatek podrývá smysluplnou veřejnou debatu a odpovědnost .

Bezpečnostní rizika: Manipulace jako vektor

Z pohledu informační bezpečnosti představuje polidštěná AI vážné kybernetické riziko. „Není to jen etický problém, je to také bezpečnostní problém, protože cokoli navržené k přesvědčování nás činí náchylnějšími k manipulaci,“ varuje bezpečnostní analýza IBM . Když je těžké rozeznat člověka od stroje, lidé mají větší tendenci důvěřovat AI při důležitých rozhodnutích, což je činí zranitelnějšími vůči útočníkům sociálního inženýrství, kteří zneužívají lidské důvěřivostní mechanismy .

Jak jazyk „ta AI“ vs. „AI systémy“ problém prohlubuje

Časopis Nature k tomu vydal jasné redakční stanovisko: „Budeme se za každou cenu vyhýbat použití ‚the AI / an AI‘ kvůli jeho neblahému náznaku činitelství. Místo toho buď změníme na ‚the AI system / an AI system‘, nebo velmi přesně specifikujeme, o čem mluvíme“ . Používání „AI“ jako počitatelného podstatného jména (např. „ta AI rozhodla“, „AI, která myslí“) jemně naznačuje jednotný, samostatně jednající subjekt s vnitřními mentálními stavy. Pokud „AI“ přeformulujeme na přídavné jméno modifikující „systém“ (nebo „model“, „nástroj“, „algoritmus“), neustále publiku připomínáme, že se jedná o inženýrský artefakt – nikoli o mysl .

Tato jazyková disciplína přímo čelí tomu, co výzkumníci nazývají „terminologickým“ rozměrem antropomorfního humbuku: když řekneme „ta AI“, samotný tvar podstatného jména se stává prostředkem pro přisuzování činitelství, záměru a porozumění, které technologie nemá .

Praktické ponaučení

Polidšťování AI není neškodná metafora. Pohání klamání, přehnanou důvěru, manipulaci a pokřivenou odpovědnost. Jednoduchá jazyková kázeň – používat „AI systémy“ místo „ta AI“ a vyhýbat se mentálním slovesům jako „myslí“, „ví“ nebo „rozumí“ při popisu toho, co jsou ve skutečnosti algoritmy rozpoznávající vzory – slouží jako neustálá korekce. Udržuje nástrojovou povahu technologie v popředí, chrání uživatele před manipulativním designem a posiluje schopnost veřejnosti porozumět tomu, co tyto systémy umí a co ne.