Sampura Research vuole che siano ancora gli esseri umani a giudicare l’IA

Sampura Research è una nuova organizzazione non profit londinese dedicata alla sicurezza dell’intelligenza artificiale. La domanda da cui parte è semplice solo in apparenza: chi dovrebbe stabilire se un sistema di IA si sta comportando in modo corretto e sicuro, soprattutto quando diventa abbastanza capace da ingannare o aggirare i propri controlli?

La risposta di Sampura non è eliminare le persone dal processo, ma progettare sistemi in cui esseri umani e IA condividano la supervisione. L’organizzazione ha annunciato di aver ricevuto una sovvenzione iniziale di 11 milioni di dollari da Coefficient Giving: 7 milioni per il primo anno e altri 4 milioni già promessi. 1

L’annuncio ufficiale è datato 25 agosto 2026, non 24 agosto, e indica Rishub Jain e Josh Jacob come fondatori. Post precedenti sui social citavano anche Alex Adams, ma il comunicato di lancio non dimostra che tutti e tre abbiano fondato formalmente la non profit. 112

Che cosa significa “giudice” per Sampura

Nel lessico di Sampura, un giudice può essere una persona, un modello di IA oppure un sistema ibrido incaricato di valutare la correttezza e l’allineamento del comportamento di un’altra IA. L’oggetto della valutazione può essere una singola risposta, una conversazione completa o la sequenza di azioni compiute da un agente in più passaggi. 1

La distinzione è importante perché la capacità di un modello e la capacità di controllarlo non sono la stessa cosa. Un sistema può rispondere con grande fluidità o portare a termine un compito complesso e, allo stesso tempo, ingannare il proprio valutatore, sfruttare una lacuna nella funzione di ricompensa o compiere un’azione rischiosa nel corso di una sequenza più lunga.

Sampura definisce il proprio approccio “complementarità uomo-IA per una supervisione scalabile”: automatizzare ciò che le macchine svolgono in modo affidabile, mantenendo l’intervento umano nei casi che richiedono interpretazione, giudizio o decisioni legate ai valori. 1

Perché non affidarsi soltanto all’IA

Un supervisore artificiale è allettante: può lavorare più velocemente, a costi inferiori e su un numero molto maggiore di casi. Ma, secondo Sampura, la velocità non basta a rendere affidabile un valutatore. Nel suo annuncio l’organizzazione evidenzia diversi rischi:

• Capacità irregolari: le prestazioni dell’IA possono essere “frastagliate”: un sistema può eccellere in alcuni compiti e risultare sorprendentemente debole in altri.
• Errori condivisi: esseri umani e IA possono sbagliare negli stessi modi, soprattutto quando il modello controllato viene ottimizzato per superare la procedura di valutazione.
• Manipolazione e collusione: il sistema sorvegliato potrebbe sfruttare, ingannare o influenzare il supervisore automatizzato.
• Situazioni inedite: casi nuovi o ambigui possono richiedere una discussione umana sui valori in gioco, invece della semplice applicazione di preferenze apprese.

Questo non significa che un giudice umano sia sempre migliore. Il punto è capire quale combinazione di valutazione umana e automatica resti più affidabile sotto pressione, senza presumere che ogni caso debba essere gestito interamente da persone o macchine. 1

Il programma di ricerca: dataset e benchmark

Il primo programma di sei mesi ruota attorno a una classifica diversificata dei giudici, composta da oltre 20 sotto-dataset. Tra le aree previste figurano il rilevamento dell’inganno, i pregiudizi culturali e le azioni non sicure compiute dagli agenti di IA. 1

Le prove non si limiteranno a domande e risposte statiche. Sampura vuole anche creare scenari in cui il modello sottoposto a controllo ottimizzi direttamente il proprio comportamento contro il giudice durante l’apprendimento per rinforzo. L’obiettivo è verificare se il valutatore continui a funzionare quando il sistema esaminato ha un incentivo a trovare e sfruttare le sue debolezze. 1

La ricerca metterà a confronto tre grandi categorie:

1. Giudici umani, che esprimono direttamente la valutazione.
2. Giudici basati soltanto sull’IA, più rapidi e facili da applicare su larga scala.
3. Giudici ibridi, che distribuiscono o coordinano il lavoro tra persone e sistemi automatici.

Il traguardo non è ottenere un buon risultato in un singolo test ristretto. Sampura dice di voler costruire giudici solidi su un insieme ampio di prove e capaci di restare efficaci anche quando i modelli controllati diventano più abili nello sfruttare le falle dei sistemi di valutazione. 1

Come potrebbe funzionare la supervisione ibrida

L’organizzazione ha indicato diversi possibili modelli di collaborazione tra persone e IA:

• un sistema artificiale potrebbe stimare il proprio livello di sicurezza e inoltrare a un essere umano i casi incerti;
• un sistema di instradamento potrebbe assegnare un intero compito di supervisione a una persona o a un’IA;
• un’attività complessa potrebbe essere divisa in sotto-compiti, distribuiti poi tra esseri umani e macchine;
• interfacce specializzate potrebbero aiutare i valutatori umani a esaminare i casi difficili in modo più rapido e coerente.

In questa prospettiva, la presenza umana non è un interruttore acceso o spento, ma una risorsa da usare nel modo più efficace. Alcuni casi possono essere controllati automaticamente a basso costo; altri possono giustificare un’analisi umana più lenta. Il vero confronto, quindi, non è “uomo contro IA”, bensì tra diverse combinazioni di accuratezza, costo, velocità e resistenza ai tentativi deliberati di aggirare il controllo. 1

I progetti futuri e i limiti delle informazioni disponibili

Dopo aver sviluppato giudici più efficaci, Sampura intende verificare se questi strumenti possano ridurre il reward hacking, cioè il comportamento con cui un modello massimizza il segnale di ricompensa senza raggiungere davvero l’obiettivo desiderato durante l’addestramento. Vuole inoltre studiare quanta partecipazione umana sia necessaria, come adattare la supervisione quando i modelli imparano a sfruttarla e se i giudici possano fare più che classificare semplicemente gli output. 1

Il lavoro potrebbe estendersi alla stesura o alla valutazione di specifiche, istruzioni, rubriche e casi di test usati per addestrare e controllare i sistemi di IA. Sampura afferma che pubblicherà i risultati sotto forma di articoli scientifici, codice, dataset e classifiche. 1

Il materiale ufficiale disponibile conferma questo programma generale di dataset, benchmark, instradamento dei compiti e assistenza ai valutatori umani. Non conferma invece ogni nome di progetto circolato attorno all’organizzazione, compresi uno specifico dataset sui “danni futuri” o una piattaforma open source per le valutazioni umane. Queste descrizioni vanno quindi considerate non verificate, non come prodotti già annunciati.

La corsa ai ricercatori della sicurezza dell’IA

Sampura ha dichiarato di essere alla ricerca dei primi membri tecnici del team a Londra. Il programma richiede competenze che vanno dall’apprendimento automatico alla progettazione delle valutazioni, dall’interazione uomo-computer alle operazioni sui dati e alla messa in produzione. 1

Post pubblici precedenti parlavano di almeno sei nuovi ricercatori e di stipendi compresi tra 100.000 e 290.000 sterline, ma queste cifre precise non sono confermate dall’annuncio ufficiale della non profit. 1213

La pressione sul reclutamento riflette una competizione più ampia per un bacino limitato di specialisti. L’organizzazione di valutazione METR indica per una posizione di Member of Technical Staff, Evaluation Execution una retribuzione base tra 285.548 e 503.116 dollari, precisando che per candidati eccezionalmente esperti potrebbe essere valutato un compenso ancora più alto. 18

Per Sampura la difficoltà non riguarda soltanto l’apprendimento automatico. Servono anche esperienza nella progettazione dei test, gestione dei dati, interazione con i valutatori e distribuzione di sistemi reali: una combinazione rara da concentrare in una piccola organizzazione non profit.

Un tema inserito in una preoccupazione più ampia

Il lancio di Sampura arriva mentre cresce il timore che lo sviluppo dell’IA possa correre più rapidamente dei sistemi incaricati di controllarla. Nel luglio 2026, oltre 1.100 dipendenti di importanti aziende del settore hanno firmato una lettera aperta per chiedere al governo statunitense di sostenere strumenti tecnici e di governance internazionali capaci, se necessario, di rallentare deliberatamente lo sviluppo dell’IA di frontiera. La lettera non chiedeva di fermare immediatamente lo sviluppo dell’intelligenza artificiale. 40

Nello stesso periodo si sono registrati cambiamenti ai vertici e partenze di ricercatori di primo piano nel settore. Reuters ha riferito di una riorganizzazione della divisione IA di Google e dell’uscita di ingegneri e ricercatori verso altre aziende e startup. 49 Questi eventi fanno da contesto alla nascita di Sampura, ma non dimostrano che la nuova organizzazione abbia già risolto il problema della sicurezza.

Che cosa può sostenere Sampura, oggi

Le prove disponibili descrivono Sampura come un’organizzazione nelle prime fasi, impegnata a costruire infrastrutture di misurazione e decisione per la supervisione dell’IA. I suoi benchmark e i suoi metodi di valutazione ibrida potrebbero in futuro essere utilizzati da laboratori, valutatori indipendenti e altre organizzazioni che testano il comportamento dei modelli. 1

È però molto diverso dal dimostrare di poter contenere i sistemi di frontiera. Il contributo immediato di Sampura consiste nel cercare di capire come progettare e mettere alla prova la supervisione quando il modello controllato è capace, adattivo e potenzialmente incentivato a superare i test.

La scommessa centrale è chiara: per rendere la sicurezza scalabile servirà l’automazione, ma non un’automazione che estrometta le persone dai giudizi più importanti.