AnswersPublished18 sources
AI kan volgens Tencent binnenkort ook biologische schade mogelijk maken
Yao Shunyu waarschuwt dat AI modellen binnenkort biologische schade kunnen helpen veroorzaken, zoals ze nu al in cyberveiligheid risico’s kunnen opleveren. Tencent lanceerde Hy4 op 4 november; het model heeft beeldbegrip en kan taken uitvoeren via computerinterfaces.
Gepubliceerd doorBewerkt met GPT-6 LunaAfbeeldingen gegenereerd met GPT Image 2
Research answer
Key takeaways
- Yao Shunyu waarschuwt dat AI modellen binnenkort biologische schade kunnen helpen veroorzaken, zoals ze nu al in cyberveiligheid risico’s kunnen opleveren.
- Tencent lanceerde Hy4 op 4 november; het model heeft beeldbegrip en kan taken uitvoeren via computerinterfaces.
- Tencent zegt dat Hy4 30,4 op 100 behaalde op Hy BioExperimentBench en onder de eigen drempel voor hoog risico bleef.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
De mogelijkheden van AI in de biologie kunnen volgens Yao Shunyu binnenkort een grens bereiken waarop ze ook schade kunnen veroorzaken. De hoofdwetenschapper van Tencent waarschuwde daarvoor tijdens een wetenschappelijk symposium in Hongkong. Hij trok een vergelijking met cyberveiligheid, waar AI-systemen nu al risico’s kunnen opleveren. 2
8
Dat is een waarschuwing over de ontwikkeling van geavanceerde AI in brede zin. Het betekent niet dat Tencent’s nieuwe model Hy4 die biologische risicogrens al heeft overschreden. 8
13
Waarom biologie extra lastig kan zijn
Volgens berichtgeving over Yao’s opmerkingen kan het bij biologie moeilijker zijn om nuttige toepassingen te onderscheiden van mogelijkheden voor misbruik dan bij cyberveiligheid. Tegelijk kan AI-onderzoek in de biologie ook voordelen opleveren, bijvoorbeeld door onderzoek naar medicijnen en behandelingen te versnellen. 1
8
Wat Tencent zegt over Hy4
Tencent lanceerde Hy4 op 4 november. Het model heeft 770 miljard parameters en kreeg onder meer functies voor beeldbegrip, redeneren en computergebruik. Daarmee kan het taken uitvoeren via zowel een opdrachtregel als een grafische interface. 4
5
Bij de lancering meldde Tencent dat de modelgewichten en een system card — een document met informatie over het model en de veiligheidsevaluaties — later zouden verschijnen. Die aangekondigde publicaties zijn niet hetzelfde als de lancering van de gehoste versie van het model. 1
9
12
Voor bioveiligheid rapporteerde Tencent een score van 30,4 op 100 op Hy-BioExperimentBench, een test voor het ontwerpen van open biologische experimenten. Het bedrijf zei dat de score onder zijn eigen drempel voor hoog risico ligt. Volgens de interne beoordeling beschikt Hy4 over basiskennis van biologie, maar kan het die kennis nog beperkt omzetten in concrete laboratoriumprotocollen. 4
13
Die uitkomst geeft context bij Yao’s waarschuwing, maar weerlegt die niet rechtstreeks. Zijn waarschuwing gaat over de ontwikkeling van geavanceerde AI-modellen; de score is een door Tencent gerapporteerde beoordeling van één model. De testscore en de risicodrempel van het bedrijf vormen op zichzelf geen onafhankelijke garantie dat Hy4 veilig is. 8
13
Beveiligingsmaatregelen rond cyberveiligheid
Tencent zegt dat het trainingsmateriaal over cyberveiligheid beperkte tot defensieve onderwerpen, zoals het maken van proof-of-concepts en het verhelpen van kwetsbaarheden. Materiaal over onder meer het ontwikkelen van exploits, reverse-engineering en penetratietests werd volgens het bedrijf eruit gefilterd. Ook zouden experts van Tencent’s Xuanwu Lab en Keen Security Lab red-teamcontroles hebben uitgevoerd. 12
Dat zijn maatregelen die Tencent zelf meldt. Ze nemen de bredere vraag die Yao opwerpt niet weg: hoe moeten AI-modellen worden beheerd wanneer hun wetenschappelijke mogelijkheden groeien en nuttige toepassingen steeds moeilijker te scheiden zijn van potentieel schadelijk gebruik? 8
12
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "AI kan volgens Tencent binnenkort ook biologische schade mogelijk maken"?
Yao Shunyu waarschuwt dat AI modellen binnenkort biologische schade kunnen helpen veroorzaken, zoals ze nu al in cyberveiligheid risico’s kunnen opleveren.
What are the key points to validate first?
Yao Shunyu waarschuwt dat AI modellen binnenkort biologische schade kunnen helpen veroorzaken, zoals ze nu al in cyberveiligheid risico’s kunnen opleveren. Tencent lanceerde Hy4 op 4 november; het model heeft beeldbegrip en kan taken uitvoeren via computerinterfaces.
What should I do next in practice?
Tencent zegt dat Hy4 30,4 op 100 behaalde op Hy BioExperimentBench en onder de eigen drempel voor hoog risico bleef.