AnswersPublished13 sources
Bagaimana Makmal AI Frontier Mengurangkan Risiko Biologi daripada Model Saintifik
Makmal AI beralih daripada penolakan chatbot semata mata kepada pertahanan berlapis: menguji sama ada AI memberi “peningkatan keupayaan” biologi yang bermakna, mengehadkan akses sensitif dan mengawal titik fizikal sep... Anthropic berkata kemas kini Fable 5 mengurangkan pengalihan respons berkaitan biologi kira kira...
Diterbitkan olehDisunting dengan GPT-5.6 TerraImej dijana dengan GPT Image 2
Research answer
Key takeaways
- Makmal AI beralih daripada penolakan chatbot semata mata kepada pertahanan berlapis: menguji sama ada AI memberi “peningkatan keupayaan” biologi yang bermakna, mengehadkan akses sensitif dan mengawal titik fizikal sep...
- Anthropic berkata kemas kini Fable 5 mengurangkan pengalihan respons berkaitan biologi kira kira 85%, tetapi pertanyaan dwiguna dalam virologi, toksikologi dan reka bentuk molekul masih dialihkan kepada Opus 5.
- RAND menegaskan tiada satu kawalan pun mencukupi. Laporannya mengenal pasti sembilan intervensi yang boleh digabungkan merentasi laluan serangan biologi yang dibantu AI.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How are OpenAI, Anthropic, Google DeepMind, and other frontier AI labs responding to the risk that increasingly capable scientific AI models. Article summary: Frontier labs are moving from simple chatbot refusals toward “defense in depth”: testing whether models materially help with harmful biological work, restricting or tiering access when they do, monitoring use, and suppor. Topic tags: general, general web, government, academic, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wate
AI untuk sains boleh mempercepat kerja bernilai tinggi dalam biologi, perubatan dan penemuan ubat. Namun, apabila model semakin berkeupayaan, ia juga berpotensi mengurangkan sebahagian beban pengetahuan, masa dan penyelarasan yang diperlukan untuk penyalahgunaan kimia atau biologi.
Respons dasar yang sedang terbentuk bukanlah larangan menyeluruh. Sebaliknya, ia ialah sistem pertahanan berlapis: ujian model, kawalan akses, pemantauan, perlindungan terhadap permintaan berisiko tinggi dan kawalan di titik dunia sebenar yang perlu dilalui sebelum sesuatu rancangan boleh dilaksanakan.
Fokusnya ialah “peningkatan keupayaan” yang boleh diukur
Soalan utama bukan sama ada chatbot awam boleh mengeluarkan resipi lengkap bagi senjata biologi apabila diminta. Soalannya ialah sama ada model yang lebih canggih boleh menjadikan projek berbahaya lebih mudah secara ketara — misalnya dengan mengurangkan masa, kepakaran khusus, kerja menyelesaikan masalah atau penyelarasan yang diperlukan pada beberapa peringkat.
Ini penting kerana mudarat biologi tidak terhasil daripada teks semata-mata. Ia tetap memerlukan bahan, peralatan, kepakaran dan pelaksanaan. Satu kertas kerja mengenai model asas semasa menumpukan risiko kepada keupayaan model membimbing pengguna melalui proses pembangunan yang menuntut kemahiran teknikal, bukan melihat satu arahan tunggal sebagai keseluruhan laluan ancaman.
Bentuk pendekatan baharu makmal AI
Beberapa amalan kini semakin menjadi tumpuan dalam kerja keselamatan model frontier:
- Penilaian keupayaan: Menguji model dengan pakar berkaitan dan senario adversarial untuk menentukan sama ada bantuan biologi atau kimianya melangkaui maklumat biasa dengan cara yang membawa kesan besar.
- Perlindungan yang tepat sasaran: Menolak, mengalihkan atau mengehadkan permintaan dalam bidang dwiguna berisiko tinggi, sambil membenarkan soalan pendidikan, kesihatan dan penyelidikan berisiko rendah apabila sesuai.
- Penerapan secara bertingkat: Memberikan keupayaan paling sensitif hanya kepada pengguna atau organisasi yang telah disemak, di bawah syarat yang jelas — bukannya membukanya kepada semua orang.
- Pelarasan berterusan: Menilai semula pengelas keselamatan dan peraturan akses apabila ia terlalu banyak menyekat kegunaan sah, atau apabila keupayaan model meningkat.
- Kawalan di luar model: Melindungi langkah hiliran, khususnya pemerolehan bahan biologi, kerana di situlah penyalahgunaan perlu berubah menjadi tindakan fizikal.
Pendekatan ini lebih realistik daripada menganggap tingkah laku model sebagai satu-satunya benteng keselamatan.
Contoh Anthropic: kurangkan sekatan tersalah sasaran tanpa membuka ruang kerja dwiguna
Kemas kini biologi Fable 5 oleh Anthropic menggambarkan pertukaran yang rumit ini. Syarikat itu berkata ia mengurangkan kira-kira 85% pengalihan respons berkaitan biologi merentasi produknya, sekali gus membolehkan model membantu dalam skop tugasan biologi yang lebih luas.
Pada masa yang sama, Anthropic menyatakan Fable 5 masih mengalihkan permintaan yang diklasifikasikan sebagai dwiguna — termasuk virologi, toksikologi dan reka bentuk molekul — kepada Opus 5, model yang kurang berkeupayaan untuk tujuan tersebut. Menurut syarikat itu, sistem berkenaan belum boleh digunakan untuk penyelidikan biologi profesional dan pembangunan ubat dalam kategori sensitif itu.
Perkara pentingnya bukan sekadar mekanisme pengalihan tersebut. Prinsipnya ialah sekatan yang menyekat setiap soalan biologi boleh menghalang pembelajaran sah, tafsiran klinikal dan kerja sains rutin. Sebaliknya, sistem yang menganggap semua soalan biologi sebagai selamat boleh terlepas bantuan yang benar-benar sensitif. Menambah baik ketepatan ialah sebahagian daripada keselamatan, bukannya lawannya.
Akses terkawal untuk sistem yang lebih berkeupayaan
Anthropic turut menggunakan akses terhad bagi model kelas Mythos. Halaman Mythos syarikat itu menyatakan Mythos 5.1 menunjukkan peningkatan dalam biologi dan keselamatan siber, tetapi kekal tersedia hanya kepada sebilangan kecil organisasi yang telah disemak. 1
Ketika mengumumkan Mythos 5, Anthropic menyifatkan sistem itu sebagai menggunakan model asas yang sama dengan Fable 5, tetapi dengan beberapa perlindungan ditanggalkan. Penerapan awalnya dihadkan kepada kumpulan kecil pasukan pertahanan siber dan penyedia infrastruktur menerusi Project Glasswing. 7
Model penerapan ini tidak menghapuskan risiko. Akses yang disemak, rekod penggunaan, kawalan terhadap penggunaan hiliran dan tindak balas insiden tetap penting. Namun, ia menawarkan pilihan di antara dua ekstrem: pelepasan penuh kepada umum atau langsung tidak digunakan. Keupayaan berisiko tinggi boleh digunakan dahulu dalam persekitaran lebih sempit, apabila tujuan penggunaan, identiti pengguna dan pengawasan lebih jelas.
Mengapa pagar keselamatan model tidak boleh berdiri sendiri
Perlindungan pada peringkat model boleh dilemahkan atau dipintas melalui model alternatif, penalaan lanjut, kelayakan akses yang dicuri, integrasi alat, atau aliran kerja teragih yang memecahkan tugas kepada beberapa individu atau sistem. Maka, kawalan akses sahaja bukan strategi biosekuriti yang lengkap.
Laporan pertahanan berlapis RAND pada 2026 menyatakan dengan jelas bahawa tiada satu perlindungan tunggal dapat menghalang penyalahgunaan biologi yang dibantu AI. RAND mengenal pasti sembilan intervensi untuk mengurangkan risiko pada titik berbeza dalam laluan serangan dan bagi pelaku yang berbeza.
Secara praktikal, pencegahan yang lebih kukuh perlu menggabungkan:
- penilaian model dan ambang penerapan;
- sekatan yang sepadan dengan risiko serta program akses dipercayai;
- pengesahan pelanggan, kebolehauditan dan pelaporan apabila wajar;
- saringan serta pengawasan bagi pemerolehan bahan; dan
- pengesanan wabak, pengawasan kesihatan awam dan keupayaan tindak balas yang lebih baik.
Apabila satu lapisan lemah, lapisan lain masih boleh mengurangkan kesannya.
Saringan sintesis DNA dan RNA sebagai benteng fizikal penting
Idea yang dijana AI masih perlu diterjemahkan kepada bahan sebenar dan aktiviti makmal. Justeru, sintesis asid nukleik menjadi titik campur tangan yang penting.
Satu penyerahan kepada permintaan maklumat Institut Keselamatan AI AS mencadangkan, antara langkah lain, pangkalan data jujukan DNA, RNA dan protein yang membimbangkan supaya alat saringan dapat menandakan permintaan yang berpotensi memudaratkan. 17 RAND juga merujuk rangka kerja AS bagi saringan sintesis asid nukleik serta amalan industri menyaring pesanan komersial bahan biologi.
Saringan berkesan bukan sekadar senarai jujukan. Ia boleh meliputi pengesahan pelanggan, semakan pesanan yang meragukan, prosedur eskalasi dan perkongsian maklumat yang mematuhi undang-undang terpakai. Kawalan ini tidak dapat menyelesaikan semua risiko, tetapi ia boleh menyukarkan penukaran bantuan pengiraan yang berbahaya kepada keupayaan fizikal.
Dasar biodefens cuba mengekang risiko sambil mengekalkan manfaat
Cabaran dasar bukan semata-mata menyekat AI biologi. Keupayaan yang sama yang menimbulkan isu dwiguna juga boleh membantu pengawasan penyakit, diagnostik, pembangunan langkah balas perubatan dan forensik mikrob.
Pada 2026, Suruhanjaya Dwipartisan mengenai Biodefens di Atlantic Council menetapkan AI sebagai keutamaan teknologi ke-16 dalam Apollo Program for Biodefense. Cadangannya termasuk pelaburan dalam pengawasan dan diagnostik yang dibantu AI, langkah balas perubatan, atribusi, penilaian serta perlindungan model, dan tindak balas kesihatan awam yang boleh menyesuaikan diri.
Itulah kerangka yang lebih seimbang: mengurangkan peluang penyalahgunaan tanpa mengorbankan potensi AI untuk memperkukuh kesiapsiagaan dan penyelidikan perubatan.
Kesimpulannya
Tiada bukti awam yang menyokong gambaran bahawa chatbot biasa ialah laluan siap guna untuk menghasilkan senjata biologi dari awal hingga akhir. Tetapi itulah bukan ukuran yang digunakan oleh pembuat dasar dan makmal AI. Mereka sedang bersedia untuk kemungkinan model saintifik yang lebih kuat mewujudkan “peningkatan keupayaan” biologi yang boleh diukur bagi sesetengah pengguna.
Respons yang paling kukuh bukan larangan menyeluruh terhadap biologi, dan bukan juga bergantung pada penolakan chatbot semata-mata. Ia memerlukan akses berkadar dengan risiko, ujian yang ketat, perlindungan tepat bagi permintaan dwiguna, serta pertahanan pada lapisan fizikal dan kesihatan awam — tempat rancangan berbahaya akhirnya perlu dilaksanakan.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Bagaimana Makmal AI Frontier Mengurangkan Risiko Biologi daripada Model Saintifik"?
Makmal AI beralih daripada penolakan chatbot semata mata kepada pertahanan berlapis: menguji sama ada AI memberi “peningkatan keupayaan” biologi yang bermakna, mengehadkan akses sensitif dan mengawal titik fizikal sep...
What are the key points to validate first?
Makmal AI beralih daripada penolakan chatbot semata mata kepada pertahanan berlapis: menguji sama ada AI memberi “peningkatan keupayaan” biologi yang bermakna, mengehadkan akses sensitif dan mengawal titik fizikal sep... Anthropic berkata kemas kini Fable 5 mengurangkan pengalihan respons berkaitan biologi kira kira 85%, tetapi pertanyaan dwiguna dalam virologi, toksikologi dan reka bentuk molekul masih dialihkan kepada Opus 5.
What should I do next in practice?
RAND menegaskan tiada satu kawalan pun mencukupi. Laporannya mengenal pasti sembilan intervensi yang boleh digabungkan merentasi laluan serangan biologi yang dibantu AI.