AnswersPublished18 sources
Tencent-sjef advarer om KI-risiko innen biologi
Yao Shunyu advarer om at KI modeller snart kan bli i stand til å gjøre skade innen biologi, slik modeller allerede kan innen cybersikkerhet. Tencent lanserte Hy4 4.
Publisert avRedigert med GPT-6 LunaBilder generert med GPT Image 2
Research answer
Key takeaways
- Yao Shunyu advarer om at KI modeller snart kan bli i stand til å gjøre skade innen biologi, slik modeller allerede kan innen cybersikkerhet.
- Tencent lanserte Hy4 4. november.
- Tencent oppgir at Hy4 fikk 30,4 av 100 på en test av biologisk forsøksdesign, og at selskapet filtrerte bort enkelte offensive typer cybersikkerhetsmateriale fra treningen.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
Tencent-forskeren Yao Shunyu advarer om at KI-modeller snart kan få biologiske ferdigheter som gjør det mulig å forårsake skade – på samme måte som KI allerede kan brukes til skade innen cybersikkerhet. Uttalelsen handler om en bredere risiko knyttet til avanserte KI-modeller. Den viser ikke at Tencents nylig lanserte Hy4 har passert en grense for høy biologisk risiko. 2
8
Dette advarer Yao om
Yao skal ha pekt på at biologiske KI-ferdigheter nærmer seg et nivå der de kan føre til reell skade. Ifølge omtalen kan det dessuten være vanskeligere å skille mellom offensive og defensive bruksområder innen biologi enn innen cybersikkerhet. 1
8
Advarselen gjelder utviklingen i KI-systemenes kapasitet, ikke en konklusjon om at alle dagens modeller kan utføre skadelig biologisk arbeid. Omtalen av Yaos uttalelser peker også på mulige fordeler, blant annet at KI kan bidra til raskere forskning på legemidler og behandlinger. 8
Hva Tencent sier om Hy4
Tencent lanserte Hy4 4. november. Modellen har 770 milliarder parametere og nye funksjoner for visuell forståelse, resonnering og datamaskinbruk. Det innebærer blant annet at den kan arbeide gjennom både kommandolinjer og grafiske grensesnitt. 4
5
Da modellen ble lansert, beskrev Tencent modellvektene og et systemkort med mer informasjon om sikkerheten som planlagte framtidige utgivelser. Det er viktig å skille disse planene fra den lanserte, nettbaserte versjonen av modellen. 1
9
12
Tencent oppgir at Hy4 fikk 30,4 av 100 på Hy-BioExperimentBench, en test av modellens evne til å utforme biologiske eksperimenter med åpne rammer. Selskapet sier at resultatet er under dets grense for høy risiko. Tencents interne vurdering beskriver Hy4 som en modell med grunnleggende biologisk kunnskap, men med begrenset evne til å omsette kunnskapen til konkrete laboratorieprotokoller som kan gjennomføres i praksis. 4
13
Resultatet gir en viss bakgrunn for Yaos advarsel, men er ikke et direkte svar på den. Yao snakker om framvoksende evner på tvers av avanserte KI-modeller, mens testresultatet er Tencents egen vurdering av én bestemt modell. Verken testresultatet eller selskapets egen risikogrense er en uavhengig garanti for at Hy4 er trygg. 8
13
Sikkerhetstiltak innen cybersikkerhet
Tencent sier at selskapet begrenset opplæringsmaterialet om cybersikkerhet til defensivt innhold, som å lage proof of concept-eksempler og rette sårbarheter. Ifølge selskapet ble materiale om blant annet utvikling av utnyttelseskode, omvendt utvikling og penetrasjonstesting filtrert bort. Tencent opplyser også at eksperter fra selskapets Xuanwu Lab og Keen Security Lab gjennomførte såkalte red-team-tester, der systemet prøves mot angrep. 12
Dette er sikkerhetstiltak Tencent sier at selskapet har brukt. De løser ikke i seg selv det større spørsmålet Yao reiser: hvordan KI-modeller skal håndteres etter hvert som de får sterkere vitenskapelige evner, og skillet mellom nyttig forskning og mulig misbruk blir vanskeligere å trekke. 8
12
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Tencent-sjef advarer om KI-risiko innen biologi"?
Yao Shunyu advarer om at KI modeller snart kan bli i stand til å gjøre skade innen biologi, slik modeller allerede kan innen cybersikkerhet.
What are the key points to validate first?
Yao Shunyu advarer om at KI modeller snart kan bli i stand til å gjøre skade innen biologi, slik modeller allerede kan innen cybersikkerhet. Tencent lanserte Hy4 4. november.
What should I do next in practice?
Tencent oppgir at Hy4 fikk 30,4 av 100 på en test av biologisk forsøksdesign, og at selskapet filtrerte bort enkelte offensive typer cybersikkerhetsmateriale fra treningen.