AnswersPublished18 sources
Tencentin tekoälyjohtaja varoittaa biologisista riskeistä
Yao Shunyu varoitti, että tekoälyn biologiset kyvyt voivat pian mahdollistaa vahingonteon samaan tapaan kuin kyberturvallisuudessa jo nyt. Marraskuun 4.
JulkaisijaMuokattu mallilla GPT-6 LunaKuvat luotu mallilla GPT Image 2
Research answer
Key takeaways
- Yao Shunyu varoitti, että tekoälyn biologiset kyvyt voivat pian mahdollistaa vahingonteon samaan tapaan kuin kyberturvallisuudessa jo nyt.
- Marraskuun 4. päivänä julkaistu 770 miljardin parametrin Hy4 toi mukanaan muun muassa kuvien ymmärtämisen ja tietokoneen käytön.
- Tencentin mukaan Hy4 sai biologisten kokeiden suunnittelun arvioinnissa 30,4 pistettä sadasta, ja yhtiö pitää tulosta oman korkean riskin rajansa alapuolella.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
Tencentin tekoälytutkija Yao Shunyu varoitti Hongkongissa järjestetyssä tiedesymposiumissa, että tekoälymallit saattavat pian pystyä aiheuttamaan vahinkoa biologian alalla, kuten ne voivat jo tehdä kyberympäristössä. Kyse on laajemmasta huolesta kehittyneiden tekoälymallien kyvyistä – varoitus ei osoita, että Tencentin vastikään julkaistu Hy4 olisi ylittänyt biologisen korkean riskin rajan. 2
8
Mistä Yao varoittaa?
Yaon huoli liittyy siihen, että tekoälyn biologiset kyvyt ovat kehittymässä tasolle, jolla niitä voitaisiin käyttää todellisen vahingon aiheuttamiseen. Raportoinnin mukaan biologian alalla voi olla kyberturvallisuutta vaikeampaa erottaa toisistaan hyökkäykseen ja puolustukseen soveltuvat kyvyt. 1
8
Varoitus koskee tekoälyn kehityssuuntaa, ei väitettä siitä, että jokainen nykyinen malli pystyisi tekemään haitallista biologista työtä. Tekoäly voi myös tuoda hyötyjä biologian tutkimukseen esimerkiksi nopeuttamalla lääke- ja hoitotutkimusta. 8
Mitä Tencent kertoo Hy4-mallista?
Tencent julkaisi Hy4:n 4. marraskuuta. Mallissa on 770 miljardia parametria, ja siihen lisättiin näköön, päättelyyn ja tietokoneen käyttöön liittyviä ominaisuuksia. Malli pystyy toimimaan sekä komentorivin että graafisten käyttöliittymien kautta. 4
5
Julkaisun yhteydessä Tencent kertoi aikovansa julkaista mallin painotiedostot ja turvallisuutta tarkemmin kuvaavan järjestelmäkortin myöhemmin. Nämä suunnitellut julkaisut on syytä erottaa mallin julkaisemisesta yhtiön omien palvelujen kautta. 1
9
12
Tencentin mukaan Hy4 sai 30,4 pistettä sadasta Hy-BioExperimentBench-arvioinnissa, jossa tarkastellaan avoimien biologisten kokeiden suunnittelua. Yhtiö ilmoitti tuloksen jäävän oman korkean riskin rajansa alle. Tencentin sisäisen arvion mukaan mallilla on biologian perustietämystä, mutta sen kyky muuntaa tietämys käyttökelpoisiksi laboratorio-ohjeiksi on rajallinen. 4
13
Tulos antaa taustaa Yaon varoitukselle, mutta ei kumoa sitä. Varoitus koskee kehittyneiden tekoälymallien kasvavia kykyjä yleisesti, kun taas pistemäärä on Tencentin raportoima arvio yhdestä mallista. Kyseessä ei myöskään ole riippumaton takuu Hy4:n turvallisuudesta. 8
13
Tencentin kyberturvallisuustoimet
Tencent kertoo rajanneensa mallin koulutuksessa käytetyn kyberturvallisuusmateriaalin puolustuksellisiin aiheisiin, kuten haavoittuvuuden todentamiseen ja korjaamiseen. Yhtiön mukaan koulutusaineistosta suodatettiin pois muun muassa hyökkäysten kehittämiseen, käänteiseen suunnitteluun ja tunkeutumistestaukseen liittyvää materiaalia. Tencent kertoo myös, että sen Xuanwu Labin ja Keen Security Labin asiantuntijat tekivät mallille red team -turvallisuustarkastuksia. 12
Nämä ovat Tencentin kuvaamia varotoimia. Ne eivät yksin ratkaise Yaon esiin nostamaa laajempaa kysymystä: miten tekoälymallien kasvavia tieteellisiä kykyjä hallitaan, kun hyödyllisiä ja mahdollisesti haitallisia käyttötapoja voi olla vaikea erottaa toisistaan. 8
12
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Tencentin tekoälyjohtaja varoittaa biologisista riskeistä"?
Yao Shunyu varoitti, että tekoälyn biologiset kyvyt voivat pian mahdollistaa vahingonteon samaan tapaan kuin kyberturvallisuudessa jo nyt.
What are the key points to validate first?
Yao Shunyu varoitti, että tekoälyn biologiset kyvyt voivat pian mahdollistaa vahingonteon samaan tapaan kuin kyberturvallisuudessa jo nyt. Marraskuun 4. päivänä julkaistu 770 miljardin parametrin Hy4 toi mukanaan muun muassa kuvien ymmärtämisen ja tietokoneen käytön.
What should I do next in practice?
Tencentin mukaan Hy4 sai biologisten kokeiden suunnittelun arvioinnissa 30,4 pistettä sadasta, ja yhtiö pitää tulosta oman korkean riskin rajansa alapuolella.