AnswersPublished14 sources
Sampura Research, il progetto che vuole impedire all’IA di supervisionare soltanto sé stessa
Sampura Research è una nonprofit londinese per la sicurezza dell’IA, fondata dagli ex ricercatori di Google DeepMind Rishub Jain e Josh Jacob. Il progetto contesta l’idea di affidare tutta la supervisione a modelli linguistici usati come giudici: secondo Sampura, gli esseri umani conservano capacità importanti nel r...
Pubblicato daModificato con GPT-5.6 LunaImmagini generate con GPT Image 1.5
Research answer
Key takeaways
- Sampura Research è una nonprofit londinese per la sicurezza dell’IA, fondata dagli ex ricercatori di Google DeepMind Rishub Jain e Josh Jacob.
- Il progetto contesta l’idea di affidare tutta la supervisione a modelli linguistici usati come giudici: secondo Sampura, gli esseri umani conservano capacità importanti nel riconoscere errori imprevedibili, conflitti...
- I suoi “giudici ibridi” dovrebbero combinare persone e IA, assegnando ogni caso al supervisore più adatto e coinvolgendo gli esseri umani soprattutto nelle situazioni incerte o più rischiose.
- Il primo programma prevede una classifica pubblica e aggiornata continuamente, con oltre 20 sotto dataset dedicati anche a inganno, bias culturali e azioni non sicure degli agenti.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Sampura Research, the London based nonprofit launched on August 24, 2026 by former Google DeepMind researchers Rishub Jain, Joshua J. Article summary: Sampura Research is a London AI safety nonprofit founded by former Google DeepMind researchers Rishub Jain and Josh Jacob—not, based on its own announcement, by Alex Adams.. Topic tags: general web, ai safety, openai, llm, ai. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and
Sampura Research è una nuova organizzazione nonprofit londinese dedicata alla sicurezza dell’intelligenza artificiale. È stata fondata dagli ex ricercatori di Google DeepMind Rishub Jain e Josh Jacob. Sulla base dell’annuncio ufficiale, Alex Adams non è indicato come cofondatore: viene citato per i commenti forniti sul testo. L’organizzazione ha annunciato il proprio lancio pubblico il 25 agosto 2026, con un finanziamento iniziale da 11 milioni di dollari da parte di Coefficient Giving: 7 milioni destinati al primo anno e altri 4 milioni promessi. 4
La critica all’idea di “IA che controlla l’IA”
Nel settore si parla spesso di scalable oversight, cioè di supervisione scalabile: un modo per controllare sistemi sempre più potenti senza chiedere a una persona di esaminare ogni singola risposta o azione. Una delle strade più comuni consiste nell’utilizzare un modello linguistico come “giudice” di un altro modello, perché l’automazione è più rapida ed economica.
Sampura sostiene però che questa soluzione rischi di eliminare proprio gli elementi che rendono utile la supervisione umana. Gli esseri umani possono ancora contribuire a:
- individuare errori irregolari e difficili da prevedere, quelli che il gruppo descrive come fallimenti “frastagliati” dell’IA;
- offrire un controllo indipendente quando il modello sorvegliato e il modello-giudice possono adattarsi l’uno all’altro o colludere;
- discutere valori umani nuovi, ambigui o in trasformazione, che non possono essere ridotti facilmente a una regola già definita.
4
L’obiettivo, quindi, non è far controllare tutto agli esseri umani. È capire in quali passaggi il loro intervento produce il maggiore valore in termini di sicurezza.
Che cosa sono i “giudici ibridi”
Nel programma di Sampura, un giudice è una persona, un sistema di IA oppure una combinazione dei due che valuta se il comportamento di un modello è corretto e coerente con gli obiettivi di sicurezza. Il concetto può applicarsi sia a una singola risposta, sia all’intera sequenza di azioni compiute da un agente.
La nonprofit intende studiare sistemi capaci di:
- stimare quanto sia affidabile la valutazione prodotta da un giudice artificiale;
- trasferire a una persona i casi in cui l’IA mostra bassa sicurezza o segnali di errore;
- usare sistemi di instradamento per decidere se assegnare un compito, o una sua parte, a un essere umano o a un modello;
- fornire agli esperti strumenti di IA specifici per il compito che devono svolgere.
In pratica, una persona potrebbe non dover leggere migliaia di valutazioni ordinarie, ma intervenire sui casi ambigui, sui comportamenti anomali o sulle situazioni in cui il sistema automatico potrebbe essere incentivato a “giocare” con il criterio di giudizio. 4
Benchmark, dataset e classifica pubblica
Per i primi sei mesi, Sampura afferma di voler costruire una piattaforma pubblica con una classifica aggiornata continuamente e più di 20 sotto-dataset. Tra gli ambiti citati figurano il rilevamento dell’inganno, i bias culturali e le azioni non sicure degli agenti.
Il punto non sarà soltanto verificare come un giudice si comporta su esempi statici. Sampura vuole anche testare cosa accade quando il modello supervisionato può ottimizzare il proprio comportamento per ottenere una valutazione positiva durante l’addestramento per rinforzo. È una situazione importante per individuare il cosiddetto reward hacking: il modello massimizza il punteggio assegnato senza raggiungere davvero l’obiettivo desiderato.
L’organizzazione dichiara inoltre di voler pubblicare articoli, codice, dataset e classifiche. L’apertura dei materiali potrebbe rendere più facile confrontare i metodi, riprodurre gli esperimenti e verificare quanto i risultati siano robusti al di fuori del laboratorio. 4
Non solo scenari da “IA ribelle”
La ricerca annunciata non si limita al caso estremo di un modello che sfugge al controllo dei suoi sviluppatori. Tra i rischi considerati ci sono anche:
- discriminazioni e bias;
- interazioni non sicure con i minori;
- dipendenza dagli assistenti o dai sistemi di IA usati come compagni;
- istruzioni, rubriche di valutazione e casi di test progettati in modo insufficiente.
In una fase successiva, Sampura vuole passare dalla sola valutazione delle risposte alla produzione e alla verifica degli strumenti che determinano che cosa viene valutato e secondo quali criteri. È un approccio potenzialmente utile per anticipare i guasti, ma va letto per quello che è: un programma di ricerca, non una capacità di contenimento già dimostrata. 4
Il vero test sarà l’impiego nei sistemi reali
Per capire se il metodo funziona, non basterà ottenere punteggi migliori nei benchmark. Sampura propone di misurare se giudici più efficaci riescano davvero a ridurre il reward hacking, quando debbano essere riaddestrati mentre i modelli cambiano e quale sia il compromesso tra costo, velocità e qualità dell’intervento umano.
La nonprofit potrebbe iniziare sottoponendo l’approccio a valutatori esterni e, in seguito, puntare all’uso durante l’addestramento, le valutazioni e il monitoraggio dei modelli più avanzati. Il passaggio dalla classifica pubblica all’impiego operativo sarà decisivo: un sistema può apparire valido su un dataset e fallire quando il modello controllato impara ad aggirarne le regole. 4
La scarsità di esperti è parte del problema
La proposta arriva in un momento in cui trovare persone capaci di valutare sistemi di IA avanzati è particolarmente difficile. Un annuncio di METR per un ruolo tecnico nell’esecuzione delle valutazioni indicava una retribuzione base annua compresa tra 285.548 e 503.116 dollari, con la possibilità di offrire di più ai candidati eccezionali. Il dato mostra quanto sia competitivo il mercato delle competenze necessarie per testare i modelli. 9
Per questo l’intenzione di Sampura di assumere personale tecnico a Londra è strategicamente rilevante. Tuttavia, le fonti primarie disponibili non confermano il dettaglio secondo cui l’organizzazione assumerebbe almeno sei ricercatori con stipendi tra 100.000 e 290.000 sterline. L’annuncio ufficiale si limita a dichiarare che sono aperte posizioni per il gruppo tecnico fondatore a Londra. 4
Un tassello, non un freno globale
Nel luglio 2026, oltre 1.100 professionisti dell’IA hanno firmato una lettera che chiedeva di sviluppare una capacità internazionale per rallentare lo sviluppo dei sistemi di frontiera qualora procedesse più rapidamente della supervisione umana sicura. 1
Sampura potrebbe fornire uno dei prerequisiti tecnici di quel tipo di meccanismo: valutazioni più credibili, verificabili e difficili da eludere. Ma una nonprofit di ricerca non può, da sola, creare autorità giuridica, coordinamento internazionale, accesso ai modelli o strumenti di applicazione delle regole. Il suo lavoro può quindi completare la governance dell’IA, non sostituirla.
Che cosa c’entra l’addio a DeepMind
La partenza di Jain è stata riportata nel contesto di una più ampia sequenza di uscite da Google DeepMind. La formula secondo cui il laboratorio avrebbe perso “cinque ricercatori chiave in sei giorni”, però, sembra provenire da fonti secondarie di qualità limitata e non dovrebbe essere considerata un fatto indipendentemente accertato. 5
Allo stesso modo, le informazioni disponibili non dimostrano l’affermazione molto più ampia secondo cui le aziende di IA “non sarebbero ancora in grado di contenere ciò che hanno costruito”. La conclusione più solida è più circoscritta: la supervisione di modelli sempre più capaci non è ancora una capacità dimostrata in modo definitivo, gli esperti di valutazione sono scarsi e Sampura vuole rendere l’apporto umano più scalabile e resistente agli aggiramenti, invece di dare per scontato che l’IA possa supervisionare in sicurezza soltanto altra IA.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Sampura Research, il progetto che vuole impedire all’IA di supervisionare soltanto sé stessa"?
Sampura Research è una nonprofit londinese per la sicurezza dell’IA, fondata dagli ex ricercatori di Google DeepMind Rishub Jain e Josh Jacob.
What are the key points to validate first?
Sampura Research è una nonprofit londinese per la sicurezza dell’IA, fondata dagli ex ricercatori di Google DeepMind Rishub Jain e Josh Jacob. Il progetto contesta l’idea di affidare tutta la supervisione a modelli linguistici usati come giudici: secondo Sampura, gli esseri umani conservano capacità importanti nel riconoscere errori imprevedibili, conflitti...
What should I do next in practice?
I suoi “giudici ibridi” dovrebbero combinare persone e IA, assegnando ogni caso al supervisore più adatto e coinvolgendo gli esseri umani soprattutto nelle situazioni incerte o più rischiose.