Come l’intelligenza artificiale è passata dal prevedere all’agire

I primi programmi per giocare dimostrarono che una macchina poteva analizzare molte mosse possibili in un ambiente delimitato. In seguito, idee simili e tecniche statistiche sono state applicate a compiti pratici come:

• individuare transazioni anomale o potenzialmente fraudolente;
• stimare il rischio di insolvenza e di mancato rimborso dei prestiti;
• prevedere rischi sanitari, come un peggioramento delle condizioni o una riospedalizzazione;
• ordinare prodotti, video, musica e post nei sistemi di raccomandazione; e
• combinare riconoscimento vocale, classificazione dell’intento e flussi di lavoro predefiniti negli assistenti vocali come Siri.

Questi sistemi sono spesso efficaci quando il compito è ristretto, ripetitivo e misurabile. Possono elaborare rapidamente grandi volumi di casi e produrre risultati coerenti. I sistemi basati su regole sono inoltre talvolta più facili da ispezionare rispetto ai modelli complessi, perché la logica decisionale è esplicita.

I limiti della previsione

L’IA tradizionale non comprende automaticamente perché si verifica un determinato risultato. Un modello può riconoscere un’associazione statistica senza dimostrare un rapporto di causa-effetto; inoltre, un sistema addestrato su dati storici distorti può riprodurre o amplificare quella distorsione. Le regole possono rivelarsi fragili fuori dal contesto per cui sono state progettate, mentre i modelli predittivi più complessi possono essere difficili da spiegare.

Le prestazioni possono peggiorare quando cambia il mondo reale: è il fenomeno noto come deriva dei dati (data drift). Negli ambiti ad alto impatto — credito, lavoro, assicurazioni, attività di polizia e sanità — un impiego responsabile richiede quindi controlli sulla qualità dei dati, test sui bias, spiegazioni adeguate, revisione umana, monitoraggio e possibilità di contestare una decisione.

2. IA generativa: creare nuovi contenuti

L’IA generativa apprende schemi da grandi raccolte di testi, immagini, audio, video o codice e li usa per produrre nuovi risultati. I modelli linguistici di grandi dimensioni generano il testo in sequenza, mentre i sistemi multimodali possono lavorare su più formati.

È cambiata così anche l’esperienza d’uso. Invece di scegliere tra comandi fissi o ricevere un punteggio di classificazione, si può descrivere un obiettivo in linguaggio naturale e chiedere al sistema di redigere, trasformare o spiegare un contenuto.

Dove viene utilizzata

Le applicazioni più comuni includono:

• Servizio clienti: preparare risposte, riassumere conversazioni, tradurre materiali e recuperare informazioni dalle basi di conoscenza.
• Attività legale: sintetizzare documenti, estrarre clausole, confrontare fonti e preparare prime bozze. I professionisti devono comunque verificare le fonti primarie e le affermazioni giuridiche.
• Istruzione: spiegare concetti, creare esercizi e fornire feedback.
• Lavoro creativo: sviluppare idee, scrivere testi e generare immagini, musica, concept video e codice.
• Programmazione: spiegare il funzionamento del codice, scrivere test, suggerire correzioni e accelerare le attività ripetitive.

I vantaggi principali sono la velocità, la riduzione dei costi di prima stesura, l’interazione in linguaggio naturale e la possibilità di produrre molte versioni personalizzate. Ma una risposta plausibile non equivale a un giudizio professionale affidabile.

I principali rischi

Allucinazioni ed eccessiva sicurezza. I modelli linguistici possono produrre informazioni inventate, inesatte, distorte o eccessivamente semplificate con un tono sicuro. Le ricerche su grounding e valutazione individuano tra le criticità la necessità di controllare allucinazioni, contenuti dannosi, manipolazione, violazioni del copyright, privacy e sicurezza.

Apprendimento e integrità accademica. Un ampio esperimento sul campo condotto nelle scuole ha rilevato che il tutor basato sull’IA migliorava le prestazioni durante l’esercitazione, ma che gli studenti che vi si affidavano senza adeguate protezioni potevano ottenere risultati peggiori quando l’accesso veniva rimosso. Il dato suggerisce una riduzione dell’acquisizione effettiva delle competenze. Gli aiuti progettati dagli insegnanti si sono dimostrati più protettivi rispetto alla semplice fornitura delle risposte. Gli strumenti generativi possono inoltre facilitare il plagio o rendere difficile capire se uno studente abbia davvero acquisito una competenza.

Copyright e provenienza. Restano aperte le questioni sulla provenienza dei dati di addestramento, sull’imitazione dello stile e sui risultati che riproducono materiale protetto. Le linee guida per l’istruzione indicano la violazione della proprietà intellettuale come un rischio rilevante, insieme a contenuti inesatti, distorti o pericolosi.

Contenuti dannosi e manipolatori. I sistemi generativi possono produrre disinformazione, molestie, materiale sessuale o violento e istruzioni pericolose. Le indicazioni sulla sicurezza raccomandano test, protezioni, registrazione delle attività e monitoraggio, invece di dare per scontato che un modello segua sempre il comportamento previsto.

Sicurezza e benessere dei minori. Le ricerche sui rischi dell’IA generativa per i giovani evidenziano criticità legate al benessere mentale, allo sviluppo comportamentale e sociale, alla tossicità dei contenuti, alla privacy e all’uso improprio o allo sfruttamento. I rischi sono particolarmente seri quando un utente tratta un chatbot come sostituto affidabile di un supporto umano qualificato.

Privacy e riservatezza. Nei prompt possono finire dati personali, segreti commerciali, informazioni sui clienti o materiale coperto dal segreto professionale. Le organizzazioni devono stabilire con chiarezza quali dati possano essere inseriti in quali servizi; gli utenti dovrebbero considerare inadatti ai contenuti sensibili gli strumenti non approvati.

Controlli pratici per l’IA generativa

Una buona regola di base è trattare il risultato del modello come una bozza, non come una prova. Le affermazioni fattuali importanti devono essere confrontate con fonti autorevoli e dovrebbe essere prevista una revisione umana per decisioni mediche, legali, finanziarie, occupazionali e legate alla sicurezza.

Tra i controlli utili rientrano il recupero di informazioni da fonti approvate, le citazioni, i test condotti anche in modalità red team, le protezioni sui contenuti, una progettazione adeguata all’età, i registri di audit, l’informazione agli utenti e policy su gestione dei dati, uso accademico, provenienza e autorizzazioni di proprietà intellettuale. Anche le linee guida governative richiamano i rischi di contenuti inesatti o distorti, violazioni della privacy, violazioni della proprietà intellettuale e problemi di integrità accademica.

3. IA agentica: sistemi capaci di agire

L’IA agentica aggiunge un livello operativo. Un agente può interpretare un obiettivo, scomporlo in passaggi, usare strumenti come browser, repository di codice, database o sistemi di messaggistica, controllare i risultati intermedi e proseguire entro i permessi ricevuti.

Per questo un agente è diverso da un chatbot, anche quando entrambi utilizzano un modello linguistico di grandi dimensioni. Un chatbot può preparare un’e-mail; un agente può cercare informazioni, redigere il messaggio, inviarlo e aggiornare un altro sistema. Un assistente di programmazione può spiegare un bug; un agente può analizzare un progetto, modificare i file, eseguire i test e preparare una modifica da sottoporre a revisione.

Tra gli esempi presenti sul mercato figurano agenti per lo sviluppo software come Google Jules, strumenti per i flussi di selezione del personale come LinkedIn Hiring Assistant e framework per agenti personali come OpenClaw. I materiali del progetto descrivono OpenClaw come un assistente personale open source che gira sui dispositivi dell’utente e si collega a canali e strumenti; le sue effettive capacità dipendono dalle integrazioni e dai permessi attivati.

Perché possono essere utili

I sistemi agentici possono:

• completare interi flussi di lavoro, non soltanto produrre una singola bozza;
• ridurre le attività ripetitive di coordinamento e amministrazione;
• collegare informazioni distribuite tra sistemi aziendali diversi; e
• operare in modo continuativo entro limiti predefiniti.

Questo potrebbe rendere più accessibili flussi di lavoro complessi anche a organizzazioni piccole e singoli utenti. Cambia però la domanda centrale: non più soltanto “La risposta è corretta?”, ma anche “Che cosa può fare il sistema e come possiamo verificare le sue azioni?”.

Perché l’autonomia amplia la superficie di rischio

Un modello generativo può sbagliare una risposta. Un agente può trasformare un’inferenza errata, un’istruzione malevola o uno strumento compromesso in un’azione esterna.

Per esempio, un agente con accesso finanziario potrebbe effettuare un pagamento, un acquisto, un trasferimento o una cancellazione non autorizzati. Un agente collegato alla posta elettronica, al browser o al cloud potrebbe essere manipolato da una pagina web o da un documento malevolo per esporre credenziali o inviare file riservati. Permessi eccessivi, controlli deboli sull’identità e una separazione insufficiente dei compiti possono trasformare un piccolo errore del modello in un incidente grave.

Anche attribuire la responsabilità è più difficile quando il risultato nasce dall’interazione tra modello, istruzioni, dati, strumenti e altri agenti. Chi gestisce il sistema deve quindi poter vedere non soltanto l’esito finale, ma anche l’azione proposta, le prove che la sostengono e i permessi utilizzati.

La governance deve crescere insieme alle capacità

Gli stessi principi di base valgono per tutte e tre le fasi: individuare un responsabile, limitare il sistema a uno scopo definito, proteggere i dati, testare prima del rilascio, monitorare le prestazioni, preparare una risposta agli incidenti e garantire una revisione o un override umano significativo per le decisioni importanti.

I sistemi agentici richiedono controlli aggiuntivi perché possono intervenire su sistemi esterni. Tra le protezioni pratiche:

• credenziali con privilegi minimi e durata limitata;
• account separati e identità chiara per ogni agente;
• confini espliciti su ciò che l’agente può leggere, scrivere, inviare, acquistare, eliminare o distribuire;
• passaggi di conferma per le azioni irreversibili o ad alto impatto;
• liste di strumenti approvati, ambienti isolati e protezioni contro la prompt injection;
• limiti alle transazioni e rilevamento delle anomalie;
• registri dettagliati e a prova di manomissione delle azioni;
• separazione dei compiti e approvazione umana proporzionata; e
• un comando rapido per mettere in pausa o arrestare il sistema.

Il Model AI Governance Framework for Agentic AI di Singapore, lanciato il 22 gennaio 2026, offre indicazioni alle organizzazioni che implementano questi sistemi, ma non è una legge autonoma sull’IA. Il suo approccio pone la responsabilità umana e organizzativa al centro e raccomanda una gestione dei rischi e controlli proporzionati al livello di autonomia dell’agente.

Per i servizi finanziari, il documento SAFR della Monetary Authority of Singapore descrive un approccio di governance in esecuzione (runtime governance) nel quale un registro strutturato raccoglie che cosa l’agente intende fare, perché e quali prove sostengono l’azione proposta.

Il punto chiave

L’evoluzione dell’IA non è semplicemente una marcia dalla “vecchia IA” alla “nuova IA”. I sistemi basati su regole e sulla previsione restano la scelta giusta per molte decisioni delimitate. L’IA generativa aggiunge produzione flessibile e interazione in linguaggio naturale. L’IA agentica aggiunge la capacità di perseguire obiettivi usando strumenti e compiendo azioni nel mondo esterno.

La sfida di governance cresce insieme a queste capacità. La previsione richiede attenzione ad accuratezza, bias e deriva dei dati. La generazione richiede verifica, sicurezza, privacy e provenienza dei contenuti. L’azione richiede tutto questo, oltre a controlli sui permessi, passaggi di approvazione, responsabilità e piani di recupero.

I prodotti di IA più affidabili, quindi, non saranno quelli che puntano soltanto sulla potenza del modello, ma quelli che la combinano con una progettazione rigorosa del sistema e con una supervisione umana effettiva.