AnswersPublished18 sources
AI:s biologiska förmågor kan närma sig en farlig gräns
Yao Shunyu varnar för att AI snart kan möjliggöra biologisk skada, på ett sätt som redan är möjligt inom cybersäkerhet. Tencent lanserade Hy4 den 4 november med bildförståelse och datoranvändning.
Publicerad avRedigerad med GPT-6 LunaBilder genererade med GPT Image 2
Research answer
Key takeaways
- Yao Shunyu varnar för att AI snart kan möjliggöra biologisk skada, på ett sätt som redan är möjligt inom cybersäkerhet.
- Tencent lanserade Hy4 den 4 november med bildförståelse och datoranvändning. Bolaget säger att modellvikter och ett säkerhetsdokument ska publiceras senare.
- Tencent uppger att Hy4 fick 30,4 av 100 i ett test av biologisk experimentdesign och att bolaget filtrerade bort vissa offensiva cybersäkerhetsdata ur träningen.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
Tencentforskaren Yao Shunyu varnar för att AI-modeller snart kan få förmågor inom biologi som gör det möjligt att orsaka skada – ungefär som modeller redan kan användas för skadliga syften inom cybersäkerhet. Varningen handlar om risker när avancerade AI-system utvecklas, inte om att Tencent redan har visat att den nya Hy4-modellen passerat en gräns för hög biologisk risk. 2
8
Vad Yao varnar för
Yao pekar på att AI:s biologiska förmågor närmar sig en nivå där de kan möjliggöra verklig skada. Enligt rapporteringen kan det dessutom vara svårare att skilja mellan biologiska förmågor som används för angrepp och sådana som används för försvar än motsvarande förmågor inom cybersäkerhet. 1
8
Det betyder inte att varje AI-modell som finns i dag kan utföra skadligt biologiskt arbete. Yaos varning gäller utvecklingen framåt. Samtidigt kan AI också bidra positivt inom biologin, exempelvis genom att skynda på forskning om läkemedel och behandlingar. 8
Tencents uppgifter om Hy4
Tencent lanserade Hy4 den 4 november. Modellen har 770 miljarder parametrar och fick nya förmågor inom bildförståelse, resonemang och datoranvändning. Det innebär bland annat att den kan arbeta via både kommandorad och grafiska gränssnitt. 4
5
Vid lanseringen uppgav Tencent att modellvikterna och ett så kallat systemkort med mer information om säkerhetsbedömningen skulle publiceras senare. Det är alltså viktigt att skilja mellan lanseringen av modellen via Tencents tjänster och en framtida offentlig publicering av vikterna och säkerhetsdokumentet. 1
9
12
Tencent uppger att Hy4 fick 30,4 av 100 på Hy-BioExperimentBench, ett test av modellens förmåga att utforma öppna biologiska experiment. Enligt bolaget ligger resultatet under dess gräns för hög risk. Tencents interna bedömning beskriver modellen som kunnig i grundläggande biologi, men med begränsad förmåga att omsätta kunskapen i konkreta laboratorieprotokoll. 4
13
Resultatet ger en bild av Hy4, men motbevisar inte Yaos varning. Han talar om framväxande förmågor hos avancerad AI i stort, medan testresultatet är Tencents egen bedömning av en enskild modell. Varken poängen eller bolagets riskgräns utgör i sig en oberoende garanti för att Hy4 är säker. 8
13
Tencents skyddsåtgärder inom cybersäkerhet
Tencent säger att utbildningsmaterialet inom cybersäkerhet begränsades till defensivt innehåll, som att ta fram proof of concept-exempel och åtgärda sårbarheter. Bolaget uppger också att material om bland annat utveckling av exploateringskod, reverse engineering och penetrationstester filtrerades bort. Säkerhetsexperter från Tencents Xuanwu Lab och Keen Security Lab ska dessutom ha genomfört red team-granskningar. 12
Det här är skyddsåtgärder som Tencent uppger att företaget använt. De besvarar inte i sig den större fråga som Yao lyfter: hur man hanterar AI-modeller när deras vetenskapliga förmågor växer och gränsen mellan nyttig och skadlig användning kan bli svårare att dra. 8
12
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "AI:s biologiska förmågor kan närma sig en farlig gräns"?
Yao Shunyu varnar för att AI snart kan möjliggöra biologisk skada, på ett sätt som redan är möjligt inom cybersäkerhet.
What are the key points to validate first?
Yao Shunyu varnar för att AI snart kan möjliggöra biologisk skada, på ett sätt som redan är möjligt inom cybersäkerhet. Tencent lanserade Hy4 den 4 november med bildförståelse och datoranvändning. Bolaget säger att modellvikter och ett säkerhetsdokument ska publiceras senare.
What should I do next in practice?
Tencent uppger att Hy4 fick 30,4 av 100 i ett test av biologisk experimentdesign och att bolaget filtrerade bort vissa offensiva cybersäkerhetsdata ur träningen.