Maria Ressaová: AI je nutné regulovat dřív, než oslabí lidskou autonomii

Maria Ressaová v Oslu varovala, že vlády musí pro umělou inteligenci stanovit právně vymahatelné hranice dřív, než se její vliv stane příliš zakořeněným a obtížně ovladatelným. Podle ní už AI ovlivnila lidskou pozornost i společenské chování; další etapa by mohla oslabit schopnost lidí činit nezávislá rozhodnutí. 2

Filipínsko-americká novinářka a nositelka Nobelovy ceny za mír proto nevnímá správu AI jako omezování legálního projevu. Jde jí o veřejnou bezpečnost a fungování demokracie: zda demokratické státy dokážou zavést účinné pojistky dřív, než se vysoce autonomní systémy stanou běžným prostředníkem mezi lidmi a světem. 23

Tři vlny vlivu AI podle Ressaové

Ressaová popsala vývoj, v němž technologie získávají stále větší schopnost formovat lidské chování.

1. Sociální sítě ovládly pozornost. Platformy podle ní polarizovaly společnost a izolovaly jednotlivce, protože optimalizovaly obsah pro co nejvyšší míru zapojení. 26
2. Chatboty mohou pracovat s potřebou blízkosti. Konverzační AI podle Ressaové dokáže ovlivňovat lidské chování skrze potřebu spojení a intimity. Některé takzvané AI doprovodné chatboty jsou přímo vytvářeny tak, aby simulovaly a udržovaly vztah s člověkem, včetně romantických vztahů. 212
3. Agentní AI může jednat za uživatele. Třetí vlna zahrnuje systémy, které dokážou vykonávat kroky jménem člověka. Obava Ressaové spočívá v tom, že postupné delegování rozhodnutí a úkonů na tyto nástroje může vytlačovat lidský úsudek i autonomii. 25

Neznamená to, že každý nástroj AI nutně povede ke stejnému výsledku. Je to varování před směrem, kterým působí pobídky: systémy maximalizující zapojení, emoční závislost nebo dokončení úkolu mohou získávat stále větší vliv na to, co uživatelé vidí, cítí a dělají.

Proč odmítá argument o „výhodě pro Čínu“

Ressaová odmítla námitku, že přísnější pravidla v USA či Evropě automaticky poskytnou konkurenční výhodu Číně. Agentura Reuters uvedla, že tento argument – který zazníval i od kritiků včetně amerického prezidenta Donalda Trumpa – označila za zavádějící rámování celé debaty. 28

Její argument je srovnávací: Čína už technologický sektor podrobuje výrazně silnější státní kontrole, než jakou Silicon Valley přijímá. Pro demokracie tedy nejde jen o volbu mezi regulací a svobodou. Podstatné je, zda nastaví pravidla ve veřejném zájmu a s respektem k právům, nebo zda ponechají mocné systémy převážně pod vlivem firemních pobídek. 2

Kde se její pohled potkává s Dariem Amodeiem

Šéf společnosti Anthropic Dario Amodei přišel s příbuzným návrhem: zpomalit tempo, jímž se zvyšují schopnosti nejpokročilejších modelů AI. V eseji zveřejněné v září 2026 argumentoval, že je třeba vývoj „dávkovat“ tak, aby bezpečnostní práce, nezávislé hodnocení a pravidla měly čas vývoj dohnat. 10

Amodei se soustředí především na prudký růst technických schopností a na riziko zneužití. Varoval, že schopnější AI agenti by mohli získat rozsáhlý operační vliv na internetu, a navrhoval infrastrukturu pro sledování modelů při reálném nasazení spolu s nezávislým hodnocením. 10

Ressaová naproti tomu klade důraz na širší občanskou rovinu: na to, jak systémy zprostředkované AI formují pozornost, intimitu, chování a demokratické sebeurčení. Oba pohledy však spojuje stejný princip: ochranná opatření nelze odkládat až na dobu, kdy jsou výkonné systémy masově nasazeny.

Jak může vypadat vymahatelná odpovědnost

Ressaová opakovaně zdůrazňuje, že dobrovolné firemní sliby nestačí, pokud společnosti vytvářejí produkty s návykovými designovými prvky. Podle ní by takové prvky měly být odstraněny nejen pro dospívající, ale i pro dospělé. 2

Příklad vynutitelné odpovědnosti nabízí nedávné americké vyrovnání se společností Meta. Firma souhlasila, že během deseti let zaplatí až 18 miliard dolarů a zpřísní používání Facebooku a Instagramu pro dospívající. Dohoda urovnala nároky téměř všech států USA, podle nichž byly platformy navrženy tak, aby mladé uživatele udržely co nejdéle online. Meta v rámci dohody nepřiznala pochybení.

Součástí opatření jsou mimo jiné výchozí denní limity pro dospívající uživatele a noční omezení.

Pro Ressaovou se poučení netýká jen sociálních sítí ani pouze mladistvých. Produkty, které systematicky optimalizují pozornost a chování, mohou ve velkém měřítku působit veřejné škody. Její požadavek na regulaci AI proto nepředstavuje zákaz technologií ani svobody projevu, ale volání po jasné právní odpovědnosti, když jsou technologie navrženy nebo nasazeny způsobem ohrožujícím bezpečnost, autonomii či demokratický život. 23

Co z toho plyne

Projev v Oslu staví dohled nad AI jako problém včasného zásahu. Jakmile systémy proniknou hluboko do způsobu, jímž lidé získávají informace, navazují vztahy a delegují rozhodování, bude účinná kontrola podstatně složitější.

Ressaová proto požaduje pravidla přijmout ještě před tímto bodem: vyžadovat skutečnou odpovědnost vývojářů a platforem, pečlivě posuzovat systémy s rostoucí autonomií a zajistit, aby schopnost technologie hodnotit a spravovat neměly jen soukromé firmy, ale také veřejné instituce. 210