Regole aziendali per l’IA: il modello verde, ambra e rosso di Singapore

I tribunali di Singapore offrono alle aziende un’idea utile per governare l’intelligenza artificiale: classificare gli usi in base al livello di responsabilità affidato al sistema, invece di limitarsi a dire che l’IA è «consentita» o che ogni risultato sarà «supervisionato da una persona». Le linee guida dei tribunali ammettono l’uso dell’IA generativa per preparare documenti, ma lasciano a chi la utilizza la responsabilità di verificare in modo indipendente che i contenuti siano accurati. Un’azienda può adattare questo principio alle proprie attività; le sue regole, però, dovrebbero riflettere compiti e rischi specifici, senza essere presentate come obblighi imposti dai tribunali. 36

Stabilire i limiti in base all’attività

Lo stesso strumento può essere adatto a una traduzione di routine e inadatto a una decisione che incide su una persona. I tribunali di Singapore hanno descritto un approccio «a semaforo»: verde per gli usi che aiutano a comprendere le informazioni senza decidere una causa, come traduzioni e sintesi; ambra per quelli che richiedono maggiore cautela; rosso per gli impieghi che i tribunali non intendono prendere in considerazione. 638

Per un’azienda, i colori possono diventare una struttura concreta per la policy interna. Gli esempi che seguono sono possibili punti di partenza, non una classificazione valida per ogni impresa: occorre valutare l’attività effettiva, i dati utilizzati e le conseguenze di un errore.

Verde: supportare il lavoro di routine

Si possono autorizzare strumenti approvati per attività a basso rischio, come formattare, tradurre, organizzare informazioni o preparare una prima bozza. La policy dovrebbe indicare quali strumenti sono ammessi, quali dati si possono inserire e se il risultato va controllato prima dell’uso. È inoltre utile chiarire che una bozza generata dall’IA non rappresenta, da sola, una decisione o una posizione ufficiale dell’azienda.

Ambra: preparare, senza decidere

Nelle attività con conseguenze rilevanti, l’IA può aiutare a organizzare prove, riassumere documenti o delineare diverse opzioni. Prima che il risultato incida su una persona, chiedete a un revisore identificato di verificare le affermazioni importanti rispetto ai documenti originali, considerare il contesto e approvare il lavoro.

Verificare in modo indipendente significa tornare alle prove o alla fonte autorevole, non chiedere a un secondo sistema di IA se il primo ha ragione. La guida dei tribunali di Singapore attribuisce a chi utilizza questi strumenti la responsabilità di assicurarsi che i materiali presentati al tribunale siano verificati in modo indipendente, accurati, veritieri e appropriati. 3

Rosso: riservare la decisione a una persona

Un’azienda può stabilire che decisioni in ambiti come l’occupazione, la sicurezza o l’accesso a servizi essenziali debbano restare di competenza umana. In questi casi l’IA può aiutare a preparare il lavoro, ma non dovrebbe prendere la decisione finale né attivarla automaticamente. La persona responsabile deve valutare il caso, poter respingere la raccomandazione del sistema e spiegare la decisione.

Questa è una misura di tutela aziendale consigliata, non una regola che i tribunali di Singapore impongono alle imprese. La magistratura ha dichiarato che gli strumenti di IA possono aiutare i giudici a leggere e assimilare i materiali, ma al momento non li impiega per valutare le prove, applicare il diritto ai fatti o esercitare discrezionalità. 40

Rendere pubbliche regole precise

Una policy pubblica è più utile se descrive attività concrete, anziché limitarsi a dichiarare un impegno generico per un’«IA responsabile». Per ogni uso autorizzato, una breve scheda dovrebbe rispondere a queste domande:

• Che cosa può fare l’IA in questa attività e che cosa è escluso?
• Quali informazioni possono essere inserite nello strumento?
• Chi controlla il risultato e rispetto a quali fonti?
• Chi prende la decisione finale?
• Come può un dipendente o una persona coinvolta segnalare un problema o contestare un errore?

All’interno dell’azienda, conservate una traccia proporzionata dello strumento e dell’attività, delle fonti consultate e della persona che ha approvato il risultato. Chi revisiona deve avere tempo e autorità per dissentire: altrimenti, il controllo umano rischia di diventare una formalità.

Rivedere le categorie e tutelare il giudizio del personale

L’assegnazione di un colore non dovrebbe essere definitiva. Valutate lo strumento specifico nel flusso di lavoro in cui verrà usato, analizzate gli errori e decidete se modificare i controlli o sospenderne l’impiego. Non date per scontato che una promessa generale sulle capacità di un modello valga per ogni attività.

È importante anche che il personale continui a fare pratica nel lavoro che l’IA contribuisce a svolgere. Il presidente della Corte suprema di Singapore ha espresso preoccupazione per il modo in cui l’IA può trasformare attività legali di routine che, tradizionalmente, aiutavano i giovani avvocati a sviluppare competenze di base. 2335 Per le aziende, la lezione è più ampia: per individuare gli errori e formulare un giudizio autonomo, le persone devono avere esperienza concreta del lavoro prima di poter controllare davvero i risultati dell’IA.

Un criterio semplice da applicare

Il semaforo è utile solo se ogni colore cambia ciò che avviene nella pratica: quali usi dell’IA sono consentiti, che cosa una persona deve verificare, chi risponde della decisione e come si può contestarla. Rendete chiari questi confini per ogni attività, rivedeteli quando cambiano strumenti e processi e lasciate le decisioni più delicate a persone che abbiano competenze e autorità per assumerle.