AnswersPublished18 sources
AI může být v biologii nebezpečná. Tencentův model Hy4 podle firmy zatím vysoké riziko nepředstavuje
Yao Shunyu varoval, že AI může brzy dokázat způsobit biologickou škodu, podobně jako už dnes může být zneužita v kybernetické bezpečnosti. Tencent uvedl model Hy4 4.
PublikovalUpraveno pomocí GPT-6 LunaObrázky vytvořeny pomocí GPT Image 2
Research answer
Key takeaways
- Yao Shunyu varoval, že AI může brzy dokázat způsobit biologickou škodu, podobně jako už dnes může být zneužita v kybernetické bezpečnosti.
- Tencent uvedl model Hy4 4. listopadu.
- Hy4 získal v biologickém testu 30,4 ze 100 bodů; Tencent tvrdí, že výsledek zůstává pod jeho hranicí vysokého rizika.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
Šéf výzkumu umělé inteligence v Tencentu Yao Shunyu varoval, že schopnosti AI v biologii se mohou brzy dostat na úroveň, kdy bude možné způsobit skutečnou škodu. Přirovnal to k rizikům v kyberprostoru, kde už dnes mohou být modely zneužity. Jeho varování se týká vývoje pokročilých modelů obecně — neznamená, že právě uvedený Tencentův model Hy4 už překročil hranici vysokého biologického rizika. 2
8
Proč je biologie zvláštní bezpečnostní problém
Podle zpráv o Yaoových vystoupeních může být v biologii obtížnější rozlišit mezi schopnostmi využitelnými k útoku a těmi, které pomáhají při obraně. AI přitom může mít i přínosné využití, například urychlit vývoj léčiv a dalšího výzkumu. 1
8
Nejde tedy o tvrzení, že každý současný model dokáže provádět nebezpečný biologický výzkum. Yaoovo varování míří na to, kam se schopnosti pokročilých systémů posouvají, a na rizika, která může takový vývoj přinést. 8
Co Tencent uvádí o modelu Hy4
Tencent představil Hy4 4. listopadu. Model má 770 miliard parametrů a přidal porozumění obrazu, uvažování i schopnost pracovat s počítačem — například prostřednictvím příkazového řádku nebo grafického rozhraní. 4
5
Uvedení modelu do služeb je třeba odlišit od zveřejnění jeho vah, tedy souborů potřebných k jeho vlastnímu provozu. Tencent při uvedení oznámil, že váhy a podrobnější bezpečnostní dokument, takzvanou systémovou kartu, plánuje zveřejnit později. 1
9
12
V testu Hy-BioExperimentBench zaměřeném na návrh biologických experimentů získal Hy4 podle Tencentu 30,4 bodu ze 100. Firma uvedla, že výsledek je pod její hranicí vysokého rizika. Její interní hodnocení zároveň popisuje, že model má základní biologické znalosti, ale zatím je jen omezeně dokáže převést do konkrétních laboratorních postupů. 4
13
Tento výsledek Yaoovo varování nevyvrací: týká se jednoho modelu a hodnocení zveřejněného jeho výrobcem, zatímco varování mluví o budoucích schopnostech pokročilých systémů obecně. Skóre ani interně stanovená hranice navíc nejsou nezávislou zárukou, že je Hy4 bezpečný. 8
13
Jaká opatření Tencent popisuje
Tencent tvrdí, že při trénování Hy4 omezil kyberbezpečnostní materiály na obranné využití, například tvorbu ukázkového kódu pro ověření zranitelnosti a její opravu. Z tréninkových dat podle firmy odfiltroval materiály zaměřené na vývoj exploitů, reverzní inženýrství a penetrační testování. Bezpečnostní audity měli provést také odborníci z týmů Tencent Xuanwu Lab a Keen Security Lab. 12
Jde o opatření, která uvádí samotný Tencent. Sama o sobě ale neřeší širší otázku, na niž upozornil Yao: jak řídit modely, jejichž vědecké schopnosti rostou a jejichž užitečné i škodlivé využití může být stále obtížnější oddělit. 8
12
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "AI může být v biologii nebezpečná. Tencentův model Hy4 podle firmy zatím vysoké riziko nepředstavuje"?
Yao Shunyu varoval, že AI může brzy dokázat způsobit biologickou škodu, podobně jako už dnes může být zneužita v kybernetické bezpečnosti.
What are the key points to validate first?
Yao Shunyu varoval, že AI může brzy dokázat způsobit biologickou škodu, podobně jako už dnes může být zneužita v kybernetické bezpečnosti. Tencent uvedl model Hy4 4. listopadu.
What should I do next in practice?
Hy4 získal v biologickém testu 30,4 ze 100 bodů; Tencent tvrdí, že výsledek zůstává pod jeho hranicí vysokého rizika.