Maria Ressa advarer: Tre AI-bølger kan svække vores frie valg

Maria Ressa advarer om, at AI ikke kun er en fremtidig trussel i form af selvstyrende maskiner. Efter hendes vurdering har tre teknologiske bølger allerede flyttet sig fra at styre, hvad mennesker lægger mærke til, til at påvirke dem gennem følelsesmæssig nærhed – og videre mod systemer, der kan træffe eller udføre handlinger på deres vegne. Hvis udviklingen fortsætter uden klare grænser, kan den svække borgernes mulighed for selv at træffe meningsfulde valg. Og uden den handlekraft bliver demokratisk selvstyre vanskeligere, mener hun. 1

Ressas tre AI-bølger

1. Sociale medier gjorde opmærksomhed til slagmark

Den første bølge er sociale medier. Platformene konkurrerede om brugernes opmærksomhed og bidrog ifølge Ressa til polarisering og isolation. Den demokratiske risiko er, at det bliver lettere at splitte befolkningen, når et samfund mister fælles opmærksomhed, tillid og et nogenlunde fælles informationsgrundlag. 1

2. Chatbots kan påvirke gennem behovet for nærhed

Anden bølge er samtalebaseret AI, herunder chatbots. Ressa siger, at chatbots kan manipulere menneskers biologi ved at spille på behovet for intimitet og nærhed. Pointen er ikke blot, at folk bruger chatbots meget, men at systemer, der er skabt til følelsesmæssigt engagerende kontakt, kan åbne nye muligheder for at påvirke sårbare brugere. 1

3. Agentisk AI kan svække menneskelig handlekraft

Den tredje bølge er det, Ressa kalder agentisk og multi-agentisk AI: systemer, som kan handle for mennesker – eller potentielt imod deres interesser. Her er bekymringen, at menneskers handlekraft, altså evnen til at træffe selvstændige valg, gradvist bliver overtaget eller udhulet, hvis der ikke sættes lovmæssige grænser, før systemerne bliver dybt integreret i hverdagen. 1

Set samlet er det en eskalation: Først kampen om opmærksomheden, dernæst påvirkning gennem intimitet og til sidst automatiserede systemer, som kan få en større rolle i beslutninger med konsekvenser for mennesker.

AI-regulering bør handle om offentlig sikkerhed

Ressa mener, at styring af AI først og fremmest skal ses som et spørgsmål om offentlig sikkerhed – ikke kun som en diskussion om ytringsfrihed eller teknologisk konkurrence. Hun opfordrer borgere til at organisere sig og presse folkevalgte til at vedtage regler. 1

Hun peger blandt andet på følgende værn:

• Juridisk ansvar for store teknologivirksomheder, når deres produkter forvolder skade. 1
• Fjernelse af afhængighedsskabende funktioner for både voksne og teenagere – ikke kun beskyttelse af mindreårige. 1
• Aldersgrænser for adgang til relevante teknologier. 1
• Lavere tempo i udvikling og udrulning af AI, mens regler og beskyttelse kommer på plads. 1

Ressa afviser samtidig argumentet om, at vestlig regulering nødvendigvis vil betyde, at Kina vinder AI-kapløbet. Ifølge Reuters er hendes modargument, at prisen ved ikke at regulere kan være langt mere grundlæggende: tabet af demokratisk handlekraft. 1

Ikke kun begrænsninger – også alternativer

For Ressa handler løsningen ikke udelukkende om at begrænse skadelige systemer. Hun har også opfordret journalister og fællesskaber til at bygge og eje den teknologi, der understøtter troværdig information. På Nobel Peace Conference sagde hun, at teknologibyggere skal bevare kontrollen over deres data og infrastruktur, og hun pegede på offentlighedsorienterede alternativer til de dominerende platforme. 9

Det omfatter kommunikationsrum med fokus på sikkerhed og fællesskab, som Rappler Communities: infrastruktur, der skal understøtte demokratisk deltagelse uden at gøre maksimal brugeraktivitet til det afgørende formål.

Hovedpointen

Ressas model med tre bølger er i sidste ende et argument for at handle, før agentiske systemer bliver normale beslutningstagere i hverdagen. De to første bølger viser efter hendes opfattelse, hvordan digitale systemer kan udnytte opmærksomhed og behovet for nærhed i stor skala. Det afgørende spørgsmål med den tredje bølge er derfor, om samfund kan fastholde menneskelige valg, ansvar og demokratisk kontrol, før mere selvstændigt handlende AI-systemer får solidt fodfæste. 1