L'ONU lancia l'allarme: modelli di business e IA senza regole stanno mettendo a rischio i bambini online

Avvertimenti chiave: una generazione esposta

Più dell'82% dei giovani tra i 15 e i 24 anni è online, e sono esposti in modo sproporzionato a disinformazione, molestie, bias algoritmici e uso malevolo dell'IA . Il rapporto avverte che la finestra per agire si sta chiudendo rapidamente: l'IA sta superando i quadri normativi, che non sono mai stati progettati per gestirla, introducendo e amplificando rischi che vanno dai contenuti sintetici allo sfruttamento facilitato dall'IA .

Modelli di business: i danni non sono accidentali

Il rapporto sostiene un punto fermo: i danni che i giovani subiscono online non sono accidentali. Sono il prodotto diretto di modelli di business che monetizzano l'attenzione e i dati personali e di funzionalità di progettazione costruite per massimizzare il coinvolgimento e la spesa . Vengono specificamente segnalati i "dark patterns" (interfacce ingannevoli), i "loot box" (scrigni virtuali premio) e altre tattiche che spingono all'uso compulsivo tra i bambini, le cui abitudini e identità sono ancora in formazione . Il rapporto mette in guardia anche contro le pubblicità sempre più occulte che sfruttano i bambini per aumentare la spesa online .

Intelligenza artificiale: rischi esistenti amplificati

L'IA sta amplificando i rischi esistenti più velocemente di quanto le salvaguardie riescano a tenere il passo. Il rapporto elenca rischi che vanno dai contenuti generati dall'IA allo sfruttamento facilitato dall'IA . Il Segretario Generale António Guterres viene citato direttamente: "Nessun bambino dovrebbe essere una cavia per un'IA non regolamentata… Quando un bambino viene danneggiato, la risposta non può mai essere 'è stato l'algoritmo'" .

Partecipazione giovanile: non solo vittime, ma anche promotori

Il rapporto insiste sul fatto che bambini e ragazzi non sono solo vittime — sono creatori, sostenitori e organizzatori . Tuttavia, le loro prospettive rimangono sottorappresentate nei forum in cui si definiscono le politiche e nella ricerca che informa tali politiche . Il rapporto è categorico: "Proteggerli e includerli non sono obiettivi in competizione. Dobbiamo fare entrambe le cose" .

L'urgenza di inserire i diritti dei bambini nella governance dell'IA

Il rapporto chiede che i diritti dei bambini vengano sanciti nei quadri di governance dell'IA ora, mentre queste leggi sono ancora in fase di elaborazione — avvertendo che "una finestra che non resterà aperta a lungo" si sta chiudendo . Esorta stati, aziende tecnologiche, inserzionisti, media e ricercatori ad agire insieme. Viene menzionata la Coalizione per i Diritti e la Protezione dei Bambini nell'Età dell'Intelligenza Artificiale e l'appello del Segretario Generale per un Impegno per la Sicurezza dell'IA per i Bambini che copra qualsiasi sistema a cui un bambino possa accedere .