AnswersPublished13 sources
Come i laboratori di IA affrontano il rischio biologico dei modelli scientifici
I laboratori che sviluppano modelli di frontiera puntano a una difesa in profondità: misurare il potenziale aiuto dell’IA in attività pericolose, limitare le capacità più sensibili e intervenire anche sui passaggi fis... Anthropic afferma di aver ridotto di circa l’85% i reindirizzamenti per richieste di biologia in...
Pubblicato daModificato con GPT-5.6 TerraImmagini generate con GPT Image 2
Research answer
Key takeaways
- I laboratori che sviluppano modelli di frontiera puntano a una difesa in profondità: misurare il potenziale aiuto dell’IA in attività pericolose, limitare le capacità più sensibili e intervenire anche sui passaggi fis...
- Anthropic afferma di aver ridotto di circa l’85% i reindirizzamenti per richieste di biologia in Fable 5, mantenendo però il passaggio a Opus 5 per virologia, tossicologia e progettazione molecolare.
- Secondo RAND, nessuna protezione isolata basta: nove interventi coordinati possono ridurre il rischio lungo l’intero percorso di un possibile attacco biologico assistito dall’IA.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How are OpenAI, Anthropic, Google DeepMind, and other frontier AI labs responding to the risk that increasingly capable scientific AI models. Article summary: Frontier labs are moving from simple chatbot refusals toward “defense in depth”: testing whether models materially help with harmful biological work, restricting or tiering access when they do, monitoring use, and suppor. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
L’IA scientifica può accelerare attività di grande valore: biologia, medicina, scoperta di farmaci e analisi delle proteine. Ma, con l’aumento delle capacità dei modelli, potrebbe anche ridurre parte del tempo, delle competenze specialistiche e del coordinamento necessari per usi impropri in campo chimico e biologico.
La risposta che sta emergendo non è un divieto generalizzato della biologia nei chatbot. È una difesa a più livelli: valutazioni delle capacità, regole di accesso graduate, monitoraggio, filtri più accurati e protezioni nei passaggi del mondo reale in cui un’idea dovrebbe trasformarsi in azione materiale.
La domanda chiave: l’IA crea un vantaggio concreto?
Il punto non è stabilire se un chatbot pubblico possa fornire, su richiesta, un percorso completo per realizzare un’arma biologica. Le evidenze pubbliche non giustificano questa conclusione.
La questione è più precisa: un modello sempre più capace può rendere un progetto pericoloso materialmente più facile? Per esempio, può abbreviare i tempi, diminuire il livello di esperienza richiesto, aiutare a risolvere problemi tecnici o semplificare il coordinamento tra più fasi?
Il danno biologico non nasce dalla sola generazione di testo: richiede materiali, attrezzature, competenze ed esecuzione. Un working paper sui modelli di fondazione inquadra infatti il rischio nella capacità di guidare utenti attraverso processi di sviluppo tecnicamente complessi, non in una singola domanda isolata.
Il modello operativo: test, limiti calibrati e accesso selettivo
Le pratiche di sicurezza dei laboratori che sviluppano modelli di frontiera stanno convergendo su alcuni strumenti complementari:
- Valutazioni delle capacità: test con esperti del settore e scenari avversariali per capire se l’assistenza in biologia o chimica superi, in modo rilevante, le informazioni normalmente disponibili.
- Protezione proporzionata: rifiutare, reindirizzare o limitare le richieste nelle aree dual use ad alto rischio, preservando ove possibile gli usi a basso rischio per istruzione, salute e ricerca.
- Distribuzione a livelli: concedere le capacità più sensibili solo a utenti o organizzazioni verificati, secondo condizioni definite, invece di renderle subito disponibili a tutti.
- Aggiornamento continuo: correggere classificatori e regole quando bloccano attività legittime o quando i modelli diventano più capaci.
- Barriere esterne al modello: proteggere i passaggi successivi, soprattutto l’acquisizione di materiali biologici, dove un possibile abuso deve diventare attività fisica.
È un approccio più realistico che affidarsi al comportamento del modello come unica linea di difesa.
Il caso Anthropic: meno falsi positivi, senza aprire le aree dual use
L’aggiornamento dei filtri biologici di Fable 5 di Anthropic mostra il compromesso da gestire. L’azienda afferma di aver ridotto di circa l’85% i “fallback”, ossia i reindirizzamenti delle richieste biologiche a un modello meno capace, sulle proprie superfici di prodotto. In questo modo Fable 5 può assistere in una gamma più ampia di attività di biologia.
Allo stesso tempo, Anthropic dichiara che le richieste considerate dual use, comprese virologia, tossicologia e progettazione molecolare, continuano a essere instradate verso Opus 5, meno capace per tali usi. Di conseguenza, Fable 5 non è ancora utilizzabile per la ricerca biologica professionale e lo sviluppo di farmaci in queste categorie sensibili.
Il punto non è il singolo meccanismo tecnico di instradamento. Un filtro che blocca ogni domanda di biologia ostacola anche apprendimento legittimo, interpretazione clinica e lavoro scientifico ordinario. Al contrario, trattare ogni richiesta biologica come innocua rischia di lasciare passare assistenza sensibile. Aumentare la precisione dei filtri è quindi parte della sicurezza, non il suo contrario.
Accesso controllato ai modelli più capaci
Anthropic ha applicato restrizioni di accesso anche alla propria classe di modelli Mythos. La pagina dedicata a Mythos indica che Mythos 5.1 ha registrato progressi in biologia e cybersicurezza e rimane accessibile soltanto a un ristretto gruppo di organizzazioni sottoposte a verifica. 1
Al lancio di Mythos 5, Anthropic lo ha descritto come un sistema basato sullo stesso modello sottostante di Fable 5, ma con alcune protezioni rimosse. La distribuzione iniziale era limitata a un piccolo gruppo di difensori informatici e fornitori di infrastrutture attraverso Project Glasswing. 7
Questo non elimina il rischio: restano essenziali la verifica degli utenti, la registrazione delle attività, i vincoli sull’uso a valle e la gestione degli incidenti. Ma supera l’alternativa rigida tra rilascio pubblico totale e nessun utilizzo: le capacità più rischiose possono essere sperimentate prima in contesti ristretti, dove utenti, finalità e supervisione sono più chiaramente definiti.
Perché i filtri del modello non bastano
Le protezioni applicate a un modello possono essere aggirate o indebolite tramite altri modelli, fine-tuning, credenziali sottratte, integrazioni con strumenti esterni o flussi di lavoro distribuiti, nei quali persone e sistemi diversi curano singole fasi.
Per questo RAND sostiene che nessuna salvaguardia, da sola, possa impedire l’uso dell’IA per assistere un abuso biologico. Il suo rapporto del 2026 individua nove interventi destinati a ridurre il rischio in punti diversi di un possibile percorso di attacco e per attori differenti.
In pratica, una strategia robusta combina:
- valutazioni dei modelli e soglie per la distribuzione;
- restrizioni proporzionate e programmi di accesso fidato;
- verifica dei clienti, tracciabilità e segnalazione, dove appropriate;
- controlli e supervisione nell’acquisizione dei materiali;
- rilevamento precoce dei focolai, sorveglianza sanitaria e capacità di risposta.
Se uno strato fallisce, gli altri possono ancora ridurre le probabilità o l’impatto dell’abuso.
Lo screening di DNA e RNA come barriera fisica cruciale
Un’idea generata dall’IA deve comunque essere tradotta in materiali reali e lavoro di laboratorio. Per questo la sintesi di acidi nucleici — DNA e RNA — è un punto di intervento importante.
Un contributo presentato alla richiesta di informazioni dell’AI Safety Institute statunitense propone, tra le altre misure, banche dati di sequenze di DNA, RNA e proteine di interesse che consentano di segnalare ordini potenzialmente dannosi. 17 RAND ha inoltre richiamato il quadro statunitense per lo screening della sintesi di acidi nucleici e le pratiche del settore per il controllo degli ordini commerciali di materiali biologici.
Uno screening efficace non coincide con una semplice lista di sequenze: può comprendere verifica del cliente, esame degli ordini dubbi, procedure di escalation e condivisione di informazioni nel rispetto delle leggi applicabili. Non risolve ogni rischio, ma può rendere più difficile trasformare un’assistenza computazionale pericolosa in capacità fisica.
Vincoli, ma anche benefici per la salute pubblica
La sfida politica non è soffocare l’IA biologica. Le stesse capacità che sollevano problemi dual use possono contribuire alla sorveglianza delle malattie, alla diagnostica, allo sviluppo di contromisure mediche e all’analisi forense microbiologica.
Nel 2026, la Bipartisan Commission on Biodefense dell’Atlantic Council ha designato l’IA come sedicesima priorità tecnologica del suo Apollo Program for Biodefense. Tra le raccomandazioni figurano investimenti in sorveglianza e diagnostica abilitate dall’IA, contromisure mediche, attribuzione, valutazioni e protezioni dei modelli, nonché risposta adattiva della sanità pubblica.
La direzione di fondo è questa: ridurre le opportunità di abuso senza rinunciare al potenziale dell’IA per la preparazione alle emergenze e la ricerca medica.
In sintesi
Non ci sono evidenze pubbliche per considerare i normali chatbot una scorciatoia pronta all’uso verso un’arma biologica completa. Tuttavia, non è questo il criterio con cui laboratori e decisori stanno affrontando il problema.
L’obiettivo è prepararsi alla possibilità che modelli scientifici più potenti offrano un vantaggio biologico misurabile ad alcuni utenti. La risposta più solida non è né un bando indiscriminato della biologia né la fiducia nei soli rifiuti del chatbot: è un insieme di accesso proporzionato, test rigorosi, protezioni precise per le richieste dual use e difese ai livelli fisico e sanitario, dove eventuali piani dannosi dovrebbero infine essere realizzati.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Come i laboratori di IA affrontano il rischio biologico dei modelli scientifici"?
I laboratori che sviluppano modelli di frontiera puntano a una difesa in profondità: misurare il potenziale aiuto dell’IA in attività pericolose, limitare le capacità più sensibili e intervenire anche sui passaggi fis...
What are the key points to validate first?
I laboratori che sviluppano modelli di frontiera puntano a una difesa in profondità: misurare il potenziale aiuto dell’IA in attività pericolose, limitare le capacità più sensibili e intervenire anche sui passaggi fis... Anthropic afferma di aver ridotto di circa l’85% i reindirizzamenti per richieste di biologia in Fable 5, mantenendo però il passaggio a Opus 5 per virologia, tossicologia e progettazione molecolare.
What should I do next in practice?
Secondo RAND, nessuna protezione isolata basta: nove interventi coordinati possono ridurre il rischio lungo l’intero percorso di un possibile attacco biologico assistito dall’IA.