AnswersPublished18 sources
AI’s næste sikkerhedsudfordring kan være biologisk
Yao Shunyu advarer om, at AI modeller snart kan få evner inden for biologi, der kan bruges til at gøre skade – ligesom modeller allerede kan udgøre en risiko inden for cybersikkerhed. Tencent lancerede Hy4 den 4.
Udgivet afRedigeret med GPT-6 LunaBilleder genereret med GPT Image 2
Research answer
Key takeaways
- Yao Shunyu advarer om, at AI modeller snart kan få evner inden for biologi, der kan bruges til at gøre skade – ligesom modeller allerede kan udgøre en risiko inden for cybersikkerhed.
- Tencent lancerede Hy4 den 4. november.
- Tencent oplyser, at Hy4 fik 30,4 ud af 100 på en test af biologisk forsøgsdesign, og at virksomheden har filtreret visse offensive cybersikkerhedsdata fra træningen.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
Tencent-topforsker Yao Shunyu advarer om, at AI-modeller kan nærme sig et niveau, hvor deres evner inden for biologi kan bruges til at gøre skade – ligesom modeller allerede kan udgøre en risiko inden for cybersikkerhed. Han peger også på, at det kan være sværere at skelne mellem skadelig og beskyttende brug af biologisk AI end i cybersikkerhed. 1
2
8
Advarslen handler om udviklingen i avanceret AI generelt. Den dokumenterer ikke, at Tencents nye model Hy4 allerede har overskredet en grænse for biologisk højrisiko. 2
8
Hvad Tencent fortæller om Hy4
Tencent lancerede Hy4 den 4. november. Modellen har 770 milliarder parametre og nye funktioner til visuel forståelse, ræsonnement og computerbrug. Det betyder blandt andet, at den kan arbejde gennem både kommandolinjer og grafiske brugerflader. 4
5
Ved lanceringen beskrev Tencent frigivelse af modelvægte og et såkaldt systemkort med flere sikkerhedsoplysninger som kommende tiltag. Det er altså vigtigt at skelne mellem den lancerede, hostede model og de materialer, virksomheden har sagt, at den planlægger at offentliggøre. 1
9
12
Tencent oplyser, at Hy4 fik 30,4 ud af 100 på Hy-BioExperimentBench, en test af modellens evne til at designe biologiske eksperimenter. Ifølge virksomheden ligger resultatet under dens grænse for høj risiko. Tencents interne vurdering beskriver modellen som stærk i grundlæggende biologisk viden, men begrænset i evnen til at omsætte den viden til brugbare laboratorieprotokoller. 4
13
Resultatet sætter Yao Shunyus advarsel i perspektiv, men afkræfter den ikke. Han taler om nye risici på tværs af avancerede AI-modeller; testresultatet er Tencents egen vurdering af én bestemt model. Scoren og virksomhedens risikogrænse er ikke i sig selv en uafhængig garanti for, at Hy4 er sikker. 8
13
Tencents cybersikkerhedstiltag
Tencent siger, at virksomheden begrænsede cybersikkerhedsmaterialet i træningen til defensive emner som proof-of-concept-eksempler og rettelse af sårbarheder. Den oplyser også, at den frasorterede materiale om blandt andet udvikling af exploits, reverse engineering og penetrationstest. 12
Ifølge Tencent gennemførte eksperter fra virksomhedens Xuanwu Lab og Keen Security Lab desuden red-team-audits, hvor modeller testes for mulige sikkerhedsproblemer. 12
Tiltagene er dem, Tencent selv beskriver. De besvarer ikke alene det bredere spørgsmål, som Yao rejser: Hvordan håndterer man AI-modeller, efterhånden som deres videnskabelige evner vokser, og det bliver vanskeligere at adskille gavnlige anvendelser fra potentielt skadelige? 8
12
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "AI’s næste sikkerhedsudfordring kan være biologisk"?
Yao Shunyu advarer om, at AI modeller snart kan få evner inden for biologi, der kan bruges til at gøre skade – ligesom modeller allerede kan udgøre en risiko inden for cybersikkerhed.
What are the key points to validate first?
Yao Shunyu advarer om, at AI modeller snart kan få evner inden for biologi, der kan bruges til at gøre skade – ligesom modeller allerede kan udgøre en risiko inden for cybersikkerhed. Tencent lancerede Hy4 den 4. november.
What should I do next in practice?
Tencent oplyser, at Hy4 fik 30,4 ud af 100 på en test af biologisk forsøgsdesign, og at virksomheden har filtreret visse offensive cybersikkerhedsdata fra træningen.