Maria Ressa varuje: Tři vlny AI mohou oslabit lidskou schopnost rozhodovat

Maria Ressa varuje, že riziko AI pro demokracii není jen vzdálená představa strojů, které se jednou zcela osamostatní. Podle ní už přišly tři technologické vlny: nejprve systémy ovlivňovaly, čemu lidé věnují pozornost; poté začaly pracovat s lidskou potřebou blízkosti; a nyní mohou jednat způsobem, který vytlačuje lidské rozhodování. Pokud se tento vývoj nepodaří omezit, může být ohrožena schopnost občanů skutečně rozhodovat o věcech veřejných. 1

Tři vlny AI podle Marie Ressa

1. Sociální sítě ovládly pozornost

První vlnou jsou podle Ressa sociální sítě. Platformy soutěžily o pozornost uživatelů a podle ní společnost polarizovaly a lidi izolovaly. Demokratický problém spočívá v tom, že společnost bez sdílené pozornosti, vzájemné důvěry a alespoň částečně společného informačního prostoru se snáze rozděluje a hůře vede věcnou veřejnou debatu. 1

2. Chatboti pracují s potřebou intimity

Druhou vlnu představuje konverzační AI. Ressa uvedla, že chatboti mohou ovlivňovat lidskou biologii tím, že využívají potřebu intimity a blízkosti. Nejde podle ní jen o četnost používání chatbotů, ale o to, že systémy stavěné na emočně poutavé interakci mohou otevírat nové cesty k ovlivňování zranitelných uživatelů. 1

3. Autonomní AI může oslabit lidskou autonomii

Třetí, závěrečnou vlnou jsou v jejím pojetí agentní a multiagentní systémy AI – tedy systémy schopné jednat za lidi, případně proti jejich zájmům. Ressa varuje, že by mohly lidem vzít schopnost samostatně se rozhodovat, pokud společnosti včas nezavedou zákonné hranice dříve, než se tyto nástroje pevně usadí v každodenním životě. 1

Tyto tři vlny tak tvoří stupňující se řetězec: od boje o pozornost přes ovlivňování skrze intimitu až po možnost, že automatizované systémy budou za lidi dělat stále závažnější rozhodnutí.

Proč mluví o veřejné bezpečnosti

Ressa vyzvala, aby se správa a regulace AI chápala jako otázka veřejné bezpečnosti, nikoli především jako spor o svobodu projevu nebo technologickou konkurenceschopnost. Občané by podle ní měli organizovat kampaně za regulaci AI a tlačit na volené politiky, aby přijali odpovídající zákony. 1

Její návrhy zahrnují několik propojených opatření:

• Právní odpovědnost velkých technologických společností za škody způsobené jejich produkty. 1
• Odstranění návykových prvků z technologických produktů nejen pro dospívající, ale i pro dospělé. 1
• Věkové limity pro přístup k relevantním technologiím. 1
• Zpomalení vývoje a nasazování AI, dokud nebudou zavedeny jasné ochranné mechanismy a pravidla. 1

Ressa také odmítla argument, že by regulace v západních zemích automaticky znamenala přenechat závod v AI Číně. Jak uvedla agentura Reuters, cena za neregulování může být podle ní zásadnější: ztráta demokratické schopnosti lidí rozhodovat o vlastním životě a společnosti. 1

Nejen omezovat, ale také budovat alternativy

Její argument se netýká pouze brzdění škodlivých systémů. Ressa zároveň vyzývá novináře a komunity, aby vytvářeli a vlastnili technologie podporující integritu informací. Na Nobel Peace Conference zdůraznila, že tvůrci technologií musí mít kontrolu nad svými daty i infrastrukturou, a poukázala na potřebu alternativ k dominantním platformám ve veřejném zájmu. 9

Do této části její agendy zapadají bezpečnější komunitně orientované komunikační prostory, například Rappler Communities. Jde o infrastrukturu, která má podporovat demokratickou účast, aniž by jako výchozí princip přebírala pobídky platforem maximalizující zapojení uživatelů.

Co z varování plyne

Ressina koncepce tří vln je výzvou jednat dříve, než se autonomní systémy stanou běžnými rozhodovacími nástroji v každodenním životě. První dvě vlny podle ní ukazují, jak lze digitálními systémy ve velkém měřítku využívat pozornost a potřebu blízkosti. Třetí vlna pak klade zásadní otázku: dokážou společnosti uchovat lidskou volbu, odpovědnost a demokratickou kontrolu dříve, než se autonomnější systémy stanou pevnou součástí veřejného i soukromého života? 1