AnswersPublished18 sources
Amaran Yao Shunyu tentang AI dan Biologi: Apa yang Ditunjukkan oleh Penilaian Hy4?
Yao Shunyu memberi amaran bahawa model AI mungkin tidak lama lagi mampu menyebabkan kemudaratan dalam biologi, seperti yang sudah boleh berlaku dalam keselamatan siber. Hy4 dilancarkan pada 4 November dengan keupayaan memahami visual dan menggunakan komputer; Tencent berkata pemberat model dan kad sistem akan diterb...
Diterbitkan olehDisunting dengan GPT-6 LunaImej dijana dengan GPT Image 2
Research answer
Key takeaways
- Yao Shunyu memberi amaran bahawa model AI mungkin tidak lama lagi mampu menyebabkan kemudaratan dalam biologi, seperti yang sudah boleh berlaku dalam keselamatan siber.
- Hy4 dilancarkan pada 4 November dengan keupayaan memahami visual dan menggunakan komputer; Tencent berkata pemberat model dan kad sistem akan diterbitkan kemudian.
- Tencent melaporkan Hy4 mendapat 30.4 daripada 100 dalam penilaian reka bentuk eksperimen biologi serta menyatakan bahan siber ofensif ditapis daripada latihan.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
Ketua saintis AI Tencent, Yao Shunyu, memberi amaran bahawa model AI mungkin tidak lama lagi mempunyai keupayaan untuk menyebabkan kemudaratan dalam bidang biologi, sebagaimana model kini boleh disalahgunakan dalam keselamatan siber. Amaran itu merujuk kepada risiko lebih luas apabila keupayaan model AI termaju berkembang; ia bukan bukti bahawa Hy4, model baharu Tencent, sudah melepasi tahap risiko biologi yang tinggi. 2
8
Apa yang dibimbangi Yao
Menurut laporan, Yao berkata keupayaan AI dalam biologi semakin menghampiri tahap yang boleh membawa kemudaratan sebenar. Risiko biologi juga dikatakan lebih sukar dibahagikan dengan jelas antara penggunaan untuk tujuan serangan dan pertahanan berbanding risiko keselamatan siber. 1
8
Amaran itu berkaitan hala tuju perkembangan AI, bukan dakwaan bahawa setiap model semasa sudah mampu melakukan kerja biologi yang berbahaya. Laporan tentang kenyataan Yao turut menyebut potensi manfaat AI dalam biologi, termasuk mempercepat penyelidikan ubat dan rawatan. 8
Apa yang Tencent laporkan tentang Hy4
Tencent melancarkan Hy4 pada 4 November. Model dengan 770 bilion parameter itu menambah keupayaan memahami visual, membuat penaakulan dan menggunakan komputer, termasuk melalui antara muka baris arahan serta antara muka grafik. 4
5
Ketika pelancaran, Tencent menyatakan bahawa pemberat model dan kad sistem yang mengandungi maklumat keselamatan lanjut akan diterbitkan kemudian. Bahan yang dirancang itu perlu dibezakan daripada pelancaran model melalui perkhidmatan yang dihoskan Tencent. 1
9
12
Tencent melaporkan Hy4 memperoleh 30.4 daripada 100 dalam Hy-BioExperimentBench, penilaian terhadap keupayaan mereka bentuk eksperimen biologi secara terbuka. Syarikat itu berkata markah tersebut berada di bawah ambang yang ditetapkannya untuk risiko tinggi. Penilaian dalaman Tencent pula menyifatkan Hy4 mempunyai pengetahuan asas biologi, tetapi keupayaannya untuk menukarkan pengetahuan itu kepada protokol makmal yang boleh dilaksanakan masih terhad. 4
13
Keputusan itu memberi konteks kepada amaran Yao, tetapi bukan penyangkalan langsung terhadapnya. Amaran tersebut menyentuh perkembangan keupayaan AI termaju secara umum, manakala markah itu ialah hasil penilaian Tencent terhadap satu model. Keputusan penanda aras dan ambang yang ditetapkan syarikat juga bukan jaminan bebas bahawa Hy4 selamat. 8
13
Langkah perlindungan keselamatan siber
Tencent berkata bahan latihan keselamatan siber dihadkan kepada kandungan pertahanan, seperti penjanaan bukti konsep dan pembaikan kelemahan. Syarikat itu menyatakan bahan seperti pembangunan eksploit, kejuruteraan songsang dan ujian penembusan ditapis keluar. Tencent turut berkata pakar daripada Xuanwu Lab dan Keen Security Lab menjalankan audit pasukan merah untuk menguji keselamatan model. 12
Langkah-langkah itu ialah perlindungan yang dilaporkan oleh Tencent. Namun, langkah tersebut tidak dengan sendirinya menjawab persoalan lebih luas yang dibangkitkan Yao: bagaimana mengurus model apabila keupayaan saintifiknya semakin maju, sedangkan penggunaan yang bermanfaat dan yang berpotensi memudaratkan mungkin semakin sukar dibezakan. 8
12
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Amaran Yao Shunyu tentang AI dan Biologi: Apa yang Ditunjukkan oleh Penilaian Hy4?"?
Yao Shunyu memberi amaran bahawa model AI mungkin tidak lama lagi mampu menyebabkan kemudaratan dalam biologi, seperti yang sudah boleh berlaku dalam keselamatan siber.
What are the key points to validate first?
Yao Shunyu memberi amaran bahawa model AI mungkin tidak lama lagi mampu menyebabkan kemudaratan dalam biologi, seperti yang sudah boleh berlaku dalam keselamatan siber. Hy4 dilancarkan pada 4 November dengan keupayaan memahami visual dan menggunakan komputer; Tencent berkata pemberat model dan kad sistem akan diterbitkan kemudian.
What should I do next in practice?
Tencent melaporkan Hy4 mendapat 30.4 daripada 100 dalam penilaian reka bentuk eksperimen biologi serta menyatakan bahan siber ofensif ditapis daripada latihan.