JawabanDipublikasikan18 sumber
Peringatan Tencent: AI Bisa Segera Menimbulkan Risiko di Bidang Biologi
Yao Shunyu memperingatkan bahwa kemampuan biologi model AI bisa segera memungkinkan tindakan berbahaya, seperti risiko yang telah muncul di ranah siber. Tencent meluncurkan Hy4 pada 4 November dengan kemampuan memahami visual, bernalar, dan menggunakan komputer; bobot model serta kartu sistemnya disebut akan dirilis...
Diterbitkan olehDiedit dengan GPT-6 LunaGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- Yao Shunyu memperingatkan bahwa kemampuan biologi model AI bisa segera memungkinkan tindakan berbahaya, seperti risiko yang telah muncul di ranah siber.
- Tencent meluncurkan Hy4 pada 4 November dengan kemampuan memahami visual, bernalar, dan menggunakan komputer; bobot model serta kartu sistemnya disebut akan dirilis kemudian.
- Tencent melaporkan skor Hy4 sebesar 30,4 dari 100 pada Hy BioExperimentBench dan menyebut kemampuan merancang eksperimen biologinya masih di bawah ambang berisiko tinggi versi perusahaan.
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Tencent’s 29-year-old chief AI scientist Yao Shunyu, who joined Tencent last year after a year at OpenAI, warn at the November 7 sc. Article summary: Yao’s central warning was that AI can already cause harm in cyberspace and is approaching a comparable threshold in biology, where separating offensive from defensive capabilities may be even harder. That is a warning ab. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
Kepala ilmuwan AI Tencent, Yao Shunyu, memperingatkan bahwa model AI mungkin segera memiliki kemampuan di bidang biologi yang dapat digunakan untuk menimbulkan bahaya—serupa dengan risiko yang sudah ada di ranah keamanan siber. Peringatan itu mengarah pada risiko model AI generasi terdepan secara luas; bukan bukti bahwa Hy4, model yang baru diluncurkan Tencent, telah melewati ambang risiko biologis tinggi. 2
8
Apa yang diperingatkan Yao?
Kekhawatiran Yao, sebagaimana diberitakan, adalah bahwa kemampuan AI di bidang biologi mendekati titik ketika teknologi tersebut dapat memungkinkan tindakan berbahaya. Risiko biologis juga disebut lebih sulit dipisahkan antara penggunaan untuk menyerang dan untuk bertahan dibandingkan risiko siber. 1
8
Peringatan itu membahas arah perkembangan kemampuan AI, bukan kesimpulan bahwa setiap model saat ini sudah mampu melakukan pekerjaan biologis yang berbahaya. AI juga berpotensi membantu penelitian biologi, termasuk mempercepat riset obat dan pengobatan. 8
Penilaian Tencent terhadap Hy4
Tencent meluncurkan Hy4 pada 4 November. Model dengan 770 miliar parameter itu menambahkan kemampuan memahami visual, bernalar, dan menggunakan komputer, termasuk bekerja melalui antarmuka baris perintah maupun grafis. 4
5
Saat peluncuran, Tencent menyebut bobot model dan kartu sistem yang memuat informasi keselamatan lebih lanjut sebagai materi yang akan dirilis kemudian. Rencana tersebut perlu dibedakan dari peluncuran Hy4 melalui layanan yang dapat digunakan saat ini. 1
9
12
Tencent melaporkan Hy4 meraih 30,4 dari 100 pada Hy-BioExperimentBench, evaluasi untuk kemampuan merancang eksperimen biologi terbuka. Perusahaan menyatakan skor itu berada di bawah ambang risiko tinggi yang digunakannya. Penilaian internal Tencent menggambarkan Hy4 memiliki pengetahuan dasar biologi, tetapi masih terbatas dalam mengubahnya menjadi protokol laboratorium yang dapat diterapkan. 4
13
Hasil itu memberi konteks, tetapi tidak serta-merta membantah peringatan Yao. Peringatan tersebut menyangkut perkembangan kemampuan AI generasi terdepan, sedangkan skor itu merupakan hasil evaluasi Tencent atas satu model. Skor dan ambang yang ditetapkan perusahaan juga bukan jaminan keselamatan independen. 8
13
Langkah pengamanan siber yang disebut Tencent
Tencent mengatakan materi keamanan siber dalam pelatihan Hy4 dibatasi pada konten defensif, seperti pembuatan bukti konsep dan penambalan kerentanan. Perusahaan menyatakan telah menyaring materi seperti pengembangan eksploit, rekayasa balik, dan uji penetrasi. Tencent juga mengatakan para ahli dari Xuanwu Lab dan Keen Security Lab melakukan audit red team—pengujian yang dirancang untuk mencari kelemahan sistem. 12
Langkah-langkah tersebut merupakan pengamanan yang dilaporkan Tencent. Namun, langkah itu sendiri belum menjawab pertanyaan lebih luas yang diangkat Yao: bagaimana mengelola model ketika kemampuan ilmiahnya berkembang dan penggunaan yang bermanfaat semakin sulit dipisahkan dari potensi penyalahgunaan. 8
12
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Peringatan Tencent: AI Bisa Segera Menimbulkan Risiko di Bidang Biologi"?
Yao Shunyu memperingatkan bahwa kemampuan biologi model AI bisa segera memungkinkan tindakan berbahaya, seperti risiko yang telah muncul di ranah siber.
Apa poin penting yang harus divalidasi terlebih dahulu?
Yao Shunyu memperingatkan bahwa kemampuan biologi model AI bisa segera memungkinkan tindakan berbahaya, seperti risiko yang telah muncul di ranah siber. Tencent meluncurkan Hy4 pada 4 November dengan kemampuan memahami visual, bernalar, dan menggunakan komputer; bobot model serta kartu sistemnya disebut akan dirilis kemudian.
Apa yang harus saya lakukan selanjutnya dalam latihan?
Tencent melaporkan skor Hy4 sebesar 30,4 dari 100 pada Hy BioExperimentBench dan menyebut kemampuan merancang eksperimen biologinya masih di bawah ambang berisiko tinggi versi perusahaan.