AnswersPublished18 sources
L’AI si avvicina a una soglia di rischio biologico? Cosa sappiamo del caso Tencent
Yao Shunyu avverte che i modelli di AI potrebbero presto essere in grado di causare danni in ambito biologico, come già possono fare nella cybersicurezza. Lanciato il 4 novembre, Hy4 è un modello da 770 miliardi di parametri con capacità di comprensione visiva e uso del computer; Tencent ha detto che pesi e scheda d...
Pubblicato daModificato con GPT-6 LunaImmagini generate con GPT Image 2
Research answer
Key takeaways
- Yao Shunyu avverte che i modelli di AI potrebbero presto essere in grado di causare danni in ambito biologico, come già possono fare nella cybersicurezza.
- Lanciato il 4 novembre, Hy4 è un modello da 770 miliardi di parametri con capacità di comprensione visiva e uso del computer; Tencent ha detto che pesi e scheda di sicurezza saranno pubblicati in seguito.
- Tencent dichiara di aver escluso dai dati di addestramento alcuni contenuti offensivi di cybersicurezza e di aver sottoposto Hy4 a verifiche red team dei propri laboratori.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
Il responsabile scientifico dell’AI di Tencent, Yao Shunyu, ha avvertito che i modelli potrebbero presto diventare capaci di causare danni in ambito biologico, così come già possono farlo nella cybersicurezza. Il suo è un monito sui rischi emergenti dei modelli più avanzati: non dimostra che il nuovo Hy4 di Tencent abbia già superato una soglia di rischio biologico elevato. 2
8
L’avvertimento di Yao
Secondo quanto riportato, Yao teme che le capacità dell’intelligenza artificiale in biologia si stiano avvicinando a un punto in cui potrebbero essere sfruttate per provocare danni reali. Ha inoltre sottolineato che in ambito biologico potrebbe essere più difficile distinguere gli usi offensivi da quelli difensivi rispetto alla cybersicurezza. 1
8
Il rischio riguarda la direzione in cui si stanno evolvendo le capacità dell’AI, non la conclusione che ogni modello attuale possa svolgere attività biologiche dannose. I resoconti delle sue osservazioni citano anche i possibili benefici della tecnologia in questo campo, per esempio l’accelerazione della ricerca su farmaci e trattamenti. 8
Cosa dichiara Tencent su Hy4
Tencent ha lanciato Hy4 il 4 novembre. Il modello, da 770 miliardi di parametri, introduce capacità di comprensione visiva, ragionamento e uso del computer, inclusa la possibilità di interagire con interfacce a riga di comando e grafiche. 4
5
Al momento del lancio, Tencent ha presentato la pubblicazione dei pesi del modello e di una scheda di sistema con informazioni di sicurezza più dettagliate come iniziative future. Si tratta quindi di materiali annunciati, da non confondere con il lancio del modello tramite servizi ospitati. 1
9
12
Tencent riferisce che Hy4 ha ottenuto 30,4 punti su 100 in Hy-BioExperimentBench, una valutazione della capacità di progettare esperimenti biologici aperti. L’azienda afferma che il risultato è inferiore alla propria soglia di rischio elevato. Nella valutazione interna, il modello mostra conoscenze biologiche di base, ma capacità limitate nel trasformarle in protocolli di laboratorio concretamente utilizzabili. 4
13
Il risultato aiuta a inquadrare l’avvertimento di Yao, ma non lo smentisce direttamente: il suo monito riguarda l’evoluzione delle capacità dei modelli di frontiera nel loro complesso, mentre il punteggio è una valutazione riferita da Tencent su un singolo modello. Né il risultato del benchmark né la soglia definita dall’azienda costituiscono, da soli, una garanzia indipendente di sicurezza per Hy4. 8
13
Le misure dichiarate per la cybersicurezza
Tencent afferma di aver limitato i materiali di addestramento sulla cybersicurezza a contenuti difensivi, come la generazione di prove di concetto e la correzione delle vulnerabilità. Dice inoltre di aver filtrato materiali relativi, tra l’altro, allo sviluppo di exploit, al reverse engineering e ai test di penetrazione. L’azienda riferisce anche che esperti dei suoi laboratori Xuanwu e Keen hanno condotto verifiche red-team. 12
Sono misure che Tencent dichiara di aver adottato, ma non risolvono da sole la questione più ampia sollevata da Yao: come gestire modelli con capacità scientifiche crescenti, quando gli impieghi potenzialmente dannosi possono diventare più difficili da separare da quelli benefici. 8
12
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "L’AI si avvicina a una soglia di rischio biologico? Cosa sappiamo del caso Tencent"?
Yao Shunyu avverte che i modelli di AI potrebbero presto essere in grado di causare danni in ambito biologico, come già possono fare nella cybersicurezza.
What are the key points to validate first?
Yao Shunyu avverte che i modelli di AI potrebbero presto essere in grado di causare danni in ambito biologico, come già possono fare nella cybersicurezza. Lanciato il 4 novembre, Hy4 è un modello da 770 miliardi di parametri con capacità di comprensione visiva e uso del computer; Tencent ha detto che pesi e scheda di sicurezza saranno pubblicati in seguito.
What should I do next in practice?
Tencent dichiara di aver escluso dai dati di addestramento alcuni contenuti offensivi di cybersicurezza e di aver sottoposto Hy4 a verifiche red team dei propri laboratori.