Maria Ressa: trzy fale AI mogą osłabić demokrację

Maria Ressa ostrzega, że zagrożenie dla demokracji związane z AI nie musi czekać na odległą przyszłość i w pełni autonomiczne maszyny. Według laureatki Pokojowej Nagrody Nobla kolejne fale technologii już przesunęły punkt ciężkości: od wpływania na to, czemu poświęcamy uwagę, przez oddziaływanie na potrzebę bliskości, aż po możliwość podejmowania działań, które zastępują ludzki wybór. Jeśli ten proces nie zostanie powstrzymany, obywatele mogą utracić sprawczość niezbędną do samodzielnego rządzenia w demokracji. 1

Trzy fale AI według Ressy

1. Media społecznościowe przejęły uwagę

Pierwszą falą są dla Ressy media społecznościowe. Platformy rywalizowały o uwagę użytkowników, a w jej ocenie przyczyniały się przy tym do polaryzacji i izolowania ludzi. Demokratyczny problem polega na tym, że społeczeństwo pozbawione wspólnej przestrzeni informacyjnej, zaufania i zdolności do skupienia się na wspólnych sprawach łatwiej podzielić, a trudniej mu wspólnie debatować. 1

2. Chatboty wykorzystują potrzebę bliskości

Drugą falą jest konwersacyjna sztuczna inteligencja. Ressa mówiła, że chatboty mogą oddziaływać na ludzką biologię, wykorzystując potrzebę intymności i bliskiej relacji. Nie chodzi jedynie o częste korzystanie z chatbotów. Jej obawa dotyczy tego, że systemy projektowane tak, by angażować emocjonalnie, mogą tworzyć nowe mechanizmy wpływu na osoby szczególnie podatne na manipulację. 1

3. AI agentowa może odebrać ludziom sprawczość

Ostatnią falą w tej analizie jest AI agentowa i wieloagentowa — systemy zdolne wykonywać działania za człowieka, a potencjalnie także wbrew jego interesom. Ressa ostrzegała, że bez prawnych ograniczeń, wprowadzonych zanim takie narzędzia na dobre wejdą do codziennego życia, mogą one ograniczyć ludzką sprawczość, czyli zdolność do niezależnego podejmowania decyzji. 1

Jej argument ma więc narastającą logikę: najpierw technologia walczyła o naszą uwagę, potem zyskała możliwość wpływania przez emocjonalną bliskość, a teraz może zacząć podejmować coraz ważniejsze decyzje w naszym imieniu.

Regulacja AI jako kwestia bezpieczeństwa publicznego

Ressa przekonuje, że zarządzanie ryzykiem związanym z AI powinno być traktowane przede wszystkim jako sprawa bezpieczeństwa publicznego, a nie wyłącznie spór o wolność słowa czy przewagę w technologicznym wyścigu. Wezwała obywateli do wywierania presji na wybranych polityków, aby uchwalali odpowiednie przepisy. 1

Wśród proponowanych zabezpieczeń wskazała:

• odpowiedzialność prawną dużych firm technologicznych za szkody powodowane przez ich produkty; 1
• usuwanie uzależniających funkcji z narzędzi technologicznych nie tylko dla nastolatków, lecz także dla dorosłych; 1
• limity wieku dostępu do określonych technologii; 1
• spowolnienie rozwoju i wdrażania AI, dopóki nie powstaną zasady oraz mechanizmy ochronne. 1

Ressa odrzuciła też argument, że regulacje w państwach Zachodu automatycznie oznaczałyby oddanie technologicznego wyścigu Chinom. Jak relacjonował Reuters, jej zdaniem brak regulacji grozi stratą znacznie poważniejszą: utratą demokratycznej sprawczości. 1

Nie tylko ograniczenia — także budowa alternatyw

Jej program nie sprowadza się do powstrzymywania szkodliwych systemów. Ressa apelowała również, by dziennikarze i społeczności tworzyli oraz posiadali technologię wspierającą rzetelność informacji. Podczas Nobel Peace Conference mówiła o konieczności zachowania kontroli nad własnymi danymi i infrastrukturą oraz o potrzebie alternatyw dla dominujących platform, działających w interesie publicznym. 9

W tym podejściu mieszczą się bezpieczniejsze, zorientowane na społeczność przestrzenie komunikacji, takie jak Rappler Communities — infrastruktura mająca wspierać demokratyczne uczestnictwo, zamiast traktować maksymalizowanie zaangażowania użytkowników jako nadrzędny cel.

Najważniejsze pytanie: kto zachowa kontrolę nad decyzjami?

Trzy fale opisane przez Ressę są argumentem za działaniem, zanim systemy agentowe staną się powszechnymi decydentami w codziennych sprawach. Dwie pierwsze, w jej ocenie, pokazały już, że cyfrowe systemy potrafią wykorzystywać uwagę i potrzebę bliskości na masową skalę. Trzecia stawia pytanie, czy społeczeństwa zdołają ochronić ludzki wybór, odpowiedzialność i demokratyczną kontrolę, zanim bardziej autonomiczne narzędzia zakorzenią się na dobre. 1