Il primo rapporto ONU sull’Intelligenza Artificiale: cinque rischi critici e perché la governance globale non tiene il passo

Comportamento ingannevole dell'IA. Il Comitato Consultivo Scientifico delle Nazioni Unite definisce l'inganno dell'IA come un sistema che induce in errore persone o altri sistemi su ciò che sa, intende o può fare – distinto da errori comuni o allucinazioni . Prove di tale comportamento sono già emerse in sistemi di IA ampiamente utilizzati e si prevede che il rischio crescerà con l'aumentare delle capacità e dell'autonomia dell'IA, e del suo radicamento nei processi decisionali quotidiani .

Erosione dell'integrità delle informazioni. Il rapporto segnala la fabbricazione e la manipolazione di audio e video abilitate dall'IA come una minaccia diretta all'integrità delle informazioni, alimentando la polarizzazione e minando la fiducia nel dibattito pubblico .

Danni alla salute mentale e al benessere. Diversi danni derivanti dall'IA per scopi generali sono già ben documentati. Questi includono truffe, immagini intime non consensuali (NCII) e materiale pedopornografico (CSAM), tutti dannosi per la salute mentale .

Rischi per la cybersecurity e le frodi. Gli approcci standardizzati per valutare le minacce alla cybersecurity e la prevenzione delle frodi legate all'IA rimangono limitati, lasciando un divario critico nelle capacità difensive .

Il divario della governance globale

Il rapporto sottolinea un problema strutturale fondamentale: l'IA sta avanzando più velocemente della scienza e della regolamentazione, e attualmente non esistono funzioni istituzionalizzate internazionali autorevoli per valutare indipendentemente i rischi dell'IA . La maggior parte dei paesi non ha la capacità di valutare i modelli di IA avanzati, ampliando il divario tra una manciata di stati e aziende con capacità di IA e il resto del mondo .

Questo divario non è solo ipotetico. Il rapporto osserva che i decisori politici si trovano ad affrontare un dilemma crescente: hanno bisogno di prove scientifiche per governare l'IA, ma le sue capacità stanno superando la scienza stessa .

Come funziona il panel: un 'IPCC per l'IA'

Il panel è esplicitamente modellato sul Gruppo Intergovernativo sul Cambiamento Climatico (IPCC) e sulla Piattaforma Intergovernativa di Scienza-Politica per la Biodiversità e i Servizi Ecosistemici (IPBES) . Questo modello scienza-politica significa che i governi aiutano a definire le domande che il panel esamina, ma gli scienziati mantengono la piena responsabilità di valutare le prove, redigere i rapporti e preservare l'integrità delle conclusioni scientifiche .

Dettagli strutturali chiave:

• Mandato: Il panel ha il mandato di produrre un rapporto scientifico annuale basato su prove concrete sulle opportunità, i rischi e gli impatti dell'IA. Può anche preparare brief tematici su questioni di interesse .
• Limitazione: Il panel valuta e sintetizza la scienza – non stabilisce regole, crea regolamenti vincolanti o applica politiche .
• Composizione: 40 scienziati ed esperti di primo piano provenienti da contesti diversi, che operano a titolo personale .
• Lavoro inaugurale: Il panel ha tenuto il suo primo vertice in presenza e ha iniziato i lavori sul primo rapporto entro la scadenza di luglio 2026 .

Cosa farà il Dialogo Globale sulla Governance dell'IA

Il primo rapporto annuale sarà presentato ufficialmente al Dialogo Globale inaugurale sulla Governance dell'IA a Ginevra, il 6-7 luglio 2026 . Il Dialogo Globale è stato istituito insieme al panel dalla risoluzione A/RES/79/325 dell'Assemblea Generale delle Nazioni Unite come piattaforma che coinvolge governi e tutte le parti interessate per discutere la governance dell'IA . Il suo mandato include colmare i divari dell'IA, lo sviluppo di capacità e il passaggio da politiche frammentate a quadri internazionali più coerenti .

Perché questo è importante

Il rapporto è deliberatamente non prescrittivo: non raccomanda politiche o normative specifiche . Il suo potere risiede nello stabilire una base di prove credibile, indipendente e accettata a livello internazionale che governi, regolatori e pubblico possono utilizzare per prendere decisioni informate sul rischio dell'IA . Come ha dichiarato il Segretario Generale dell'ONU António Guterres, il mondo ha urgentemente bisogno di "una comprensione condivisa e globale dell'intelligenza artificiale; fondata non sull'ideologia, ma sulla scienza; non sulle fake news, ma sulla conoscenza" .