Maria Ressa: senza limiti all’IA rischiamo di perdere l’autonomia umana

Maria Ressa sostiene che il rischio dell’intelligenza artificiale per la democrazia non appartenga soltanto a un futuro di macchine pienamente autonome. A suo avviso, tre ondate tecnologiche hanno già seguito una progressione: prima hanno influenzato ciò a cui prestiamo attenzione, poi hanno fatto leva sul bisogno umano di intimità, e ora potrebbero arrivare ad agire in modi che riducono la capacità delle persone di decidere. Se questo percorso non viene fermato, avverte, l’autogoverno democratico è a rischio perché i cittadini devono poter mantenere un’effettiva autonomia di scelta. 1

Le tre ondate dell’IA secondo Ressa

1. I social media hanno conquistato l’attenzione

Per Ressa, la prima ondata sono stati i social media. Le piattaforme hanno gareggiato per trattenere l’attenzione e, secondo la Nobel per la pace, hanno contribuito a polarizzare e isolare le persone. Il problema democratico è evidente: una società che fatica a condividere attenzione, fiducia e uno spazio informativo comune è più facile da dividere e meno capace di discutere collettivamente. 1

2. I chatbot puntano sull’intimità

La seconda ondata è l’IA conversazionale. Ressa afferma che i chatbot possono manipolare la biologia umana facendo leva sul bisogno di intimità. La sua preoccupazione non è semplicemente l’uso frequente di questi strumenti: sistemi progettati per rendere l’interazione emotivamente coinvolgente possono creare nuovi canali di influenza, soprattutto nei confronti degli utenti più vulnerabili. 1

3. L’IA agentica può togliere spazio alle decisioni umane

L’ultima ondata, nella lettura di Ressa, è quella dell’IA agentica e multi-agentica: sistemi capaci di agire per conto delle persone o, potenzialmente, contro i loro interessi. Senza limiti fissati dalla legge prima che queste tecnologie si radichino nella vita quotidiana, avverte, potrebbero sottrarre l’autonomia umana, cioè la possibilità di compiere scelte indipendenti. 1

Le tre ondate sono quindi una scala di intensificazione: dalla competizione per l’attenzione, all’influenza attraverso l’intimità, fino al rischio che sistemi automatizzati prendano decisioni sempre più importanti al posto nostro.

Perché Ressa parla di sicurezza pubblica

Ressa chiede di affrontare la governance dell’IA come una questione di sicurezza pubblica, non principalmente come una disputa sulla libertà di espressione o sulla competizione tecnologica. Ha invitato cittadini e cittadine a fare pressione sui rappresentanti eletti affinché approvino regole sull’IA. 1

Tra le misure indicate da Ressa figurano:

• Responsabilità legale delle grandi aziende tecnologiche per i danni provocati dai loro prodotti. 1
• Eliminazione delle funzioni progettate per creare dipendenza, non solo per adolescenti e minori ma anche per gli adulti. 1
• Limiti di età per l’accesso alle tecnologie interessate. 1
• Rallentare lo sviluppo e la diffusione dell’IA finché non siano in vigore norme e protezioni adeguate. 1

Ressa ha inoltre respinto l’argomento secondo cui regolamentare l’IA nei Paesi occidentali significherebbe semplicemente cedere la corsa tecnologica alla Cina. Nella ricostruzione di Reuters, la sua posizione è che non regolamentare comporti un costo più profondo: il possibile venir meno dell’autonomia necessaria alla democrazia. 1

Non solo limiti: costruire alternative

La proposta di Ressa non riguarda soltanto il contenimento dei sistemi dannosi. Ha anche invitato giornalisti e comunità a costruire e possedere tecnologie che rafforzino l’integrità dell’informazione. Alla Nobel Peace Conference ha sostenuto che chi sviluppa queste soluzioni debba mantenere il controllo sui propri dati e sulla propria infrastruttura, indicando la necessità di alternative di interesse pubblico alle piattaforme dominanti. 9

In questa direzione rientrano spazi di comunicazione più sicuri e orientati alla comunità, come Rappler Communities: infrastrutture pensate per favorire la partecipazione democratica senza assumere come obiettivo predefinito la massimizzazione del coinvolgimento degli utenti.

La questione centrale

Lo schema delle tre ondate è, per Ressa, un invito ad agire prima che i sistemi agentici diventino normali decisori nella vita di ogni giorno. Le prime due fasi mostrano come le tecnologie digitali possano sfruttare attenzione e intimità su larga scala; la terza pone una domanda politica essenziale: riusciranno le società a difendere scelta umana, responsabilità e controllo democratico prima che sistemi più autonomi si consolidino? 1