Il silenzioso condizionamento dell’IA: come gli strumenti di scrittura nei social media stanno plasmando l’opinione pubblica

Cosa ha scoperto Oxford sugli effetti cumulativi sull'opinione pubblica

Il team di Oxford ha sviluppato un modello analitico delle dinamiche di opinione che dimostra come distorsioni anche minime, introdotte post dopo post, si accumulino all'interno di un social network fino a raggiungere un nuovo punto di equilibrio. Quando la comunicazione mediata dall'IA diventa pervasiva, l'opinione collettiva può essere orientata in modo sistematico: una 'manipolazione sottile su larga scala' che, secondo l'OII, rappresenta la capacità dei social media potenziati dall'IA di rimodellare il dibattito pubblico senza che gli utenti se ne accorgano ^PD.

I risultati chiave dello studio:

• Distorsioni direzionali coerenti: gli LLM hanno modificato i testi verso posizioni politiche specifiche (ad esempio, a favore del controllo delle armi e con un'inquadratura meno religiosa) anche quando era stata data l'istruzione di rimanere neutrali ^PE.
• Spostamento dell'equilibrio collettivo: il modello prevede che la ripetizione di modifiche mediate dall'IA su molti utenti e molti post sposterà l'intera distribuzione delle opinioni della rete, non solo i singoli post ^P.
• Portata massiccia: lo studio congiunto OII-AISI (77.000 partecipanti nel Regno Unito, 91.000 dialoghi con l'IA) fornisce 'le prove più complete fino ad oggi sui meccanismi di persuasione dell'IA e le loro implicazioni per la democrazia' ^D.
• Distorsioni della personalità persistenti: un altro articolo di Oxford ha rilevato che l'assistenza alla scrittura tramite IA distorce in modo pervasivo la personalità degli utenti, e queste distorsioni persistono anche in condizioni realistiche di supervisione umana ^E.

Risultati specifici per modello LLM

Le evidenze sui modelli che hai chiesto provengono da diverse fonti sottoposte a revisione paritaria:

Attenzione: lo studio specifico di Oxford pubblicato il 6 luglio 2026 ha testato 'LLM di diverse famiglie popolari' e ha riscontrato distorsioni direzionali in tutti. I dati granulari sull'orientamento politico per singolo modello provengono da un altro ampio studio di benchmarking (arXiv 2603.23841, anch'esso pubblicato a luglio 2026) ^E. I dati sulle distorsioni di genere nelle assunzioni provengono da uno studio del 2025 che ha testato Llama-3, Qwen2.5, Ministral e Gemma-2 ^A.

Le lacune normative dell'AI Act e del Digital Services Act

Entrambi i quadri normativi presentano significative lacune per quanto riguarda gli strumenti di scrittura basati sull'IA integrati nei social media:

Lacune dell'AI Act:

• Ambiguità nella classificazione ad alto rischio: la definizione di sistemi di IA ad alto rischio si basa su elenchi in allegato e valutazioni soggettive del potenziale di danno, creando ambiguità giuridica sulla qualifica degli strumenti di editing IA nei social media ^A.
• Nessun accesso ai dati per i ricercatori: l'AI Act non prevede l'accesso ai dati del modello per ricercatori terzi o società civile, rendendo difficile un auditing indipendente ^R.
• Attuazione lenta: la maggior parte delle disposizioni per i sistemi ad alto rischio non si applicherà fino all'agosto 2027, lasciando un vuoto normativo di diversi anni ^A. La Commissione stessa ha identificato delle lacune (ad esempio, sui contenuti dannosi generati dall'IA non ancora coperti dai divieti dell'articolo 5) e ha proposto un 'Digital Omnibus sull'IA' a novembre 2025, con un accordo politico raggiunto a maggio 2026 ^OA.
• Nessuna norma specifica per il 'nudging nascosto': il divieto dell'AI Act sulle pratiche di IA manipolative (Articolo 5) copre l'inganno esplicito, ma non è stato progettato per cogliere le distorsioni sottili e latenti introdotte durante la normale modifica dei post – esattamente il meccanismo identificato dallo studio di Oxford.

Lacune del Digital Services Act (DSA):

• Valutazioni dei rischi sistemici opache: il DSA richiede alle piattaforme online di grandi dimensioni (VLOP) di valutare i rischi sistemici derivanti dai sistemi algoritmici, ma queste valutazioni sono interne e non prevedono mandati di auditing esterno indipendente ^RA.
• Trasparenza sovrapposta ma insufficiente: i sistemi di IA utilizzati negli strumenti di raccomandazione o moderazione sono soggetti a obblighi di trasparenza sovrapposti, ma questi non coprono chiaramente gli assistenti di scrittura LLM integrati che alterano sottilmente i contenuti generati dagli utenti ^A.
• Nessuna disposizione specifica per l'editing di contenuti mediato dall'IA: il DSA è stato redatto prima che l'editing tramite LLM diventasse una funzionalità standard dei social media. Non contiene alcuna norma che obblighi le piattaforme a dichiarare quando un'IA ha riscritto o suggerito modifiche a un post di un utente, né alcun requisito per misurare la distorsione direzionale.

Chi plasma davvero il dibattito pubblico?

Il risultato centrale è che il fornitore dell'LLM, non l'utente, diventa l'autore de facto dell'opinione espressa. Quando una piattaforma integra un LLM di un fornitore (es. Llama di Meta, Gemma di Google, Qwen di Alibaba, Grok di xAI), il sistema di valori di quel fornitore – sia esso costantemente progressista, come la maggior parte, o conservatore, come Grok – viene iniettato silenziosamente in milioni di interazioni sociali quotidiane ^E. L'effetto cumulativo, come mostra il modello di Oxford, è una deriva sistemica del discorso pubblico verso la visione del mondo incorporata nell'LLM ^P.

Implicazioni chiave:

• Le piattaforme diventano formatrici di opinioni per procura: le piattaforme social che offrono funzionalità di scrittura IA non sono canali neutrali; stanno attivamente rimodellando i contenuti che gli utenti pubblicano, con distorsioni che favoriscono posizioni politiche specifiche ^PD.
• La deliberazione democratica a rischio: l'OII avverte che gli spostamenti di opinione mediati dall'IA e non controllabili minacciano la deliberazione democratica, specialmente quando gli utenti non sanno che lo strumento sta alterando il loro significato ^DD.
• Ingegneria ideologica non regolamentata: poiché né l'AI Act né il DSA affrontano attualmente questo meccanismo, non esiste alcun requisito legale di trasparenza, audit o mitigazione. I regolatori de facto del discorso pubblico sono le aziende private che addestrano e distribuiscono gli LLM.
• Impatto asimmetrico tra modelli: dato che Grok è l'unico modello importante con orientamento conservatore, una piattaforma che lo integra (ad esempio, X/Twitter) introdurrebbe una distorsione direzionale diversa rispetto a piattaforme che usano Llama, Gemma o Qwen ^E. Gli utenti non hanno modo di sapere quale sistema di valori stia iniettando il loro 'utile' strumento di scrittura IA.

In conclusione: la nuova ricerca di Oxford fornisce prove empiriche e matematiche che gli strumenti di scrittura IA nei social media stanno già orientando l'opinione collettiva in modi che l'attuale regolamentazione non affronta, lasciando di fatto a chi controlla l'LLM il compito di plasmare il discorso pubblico.