Apabila AI Boleh Bertindak: Risiko Biologi, Serangan Siber dan Senjata Autonomi

Risiko AI canggih bukan semestinya sebuah mesin yang tiba-tiba mampu melakukan segala-galanya. Kebimbangan yang lebih nyata ialah gabungan pengetahuan yang lebih mudah diperoleh, tugas yang boleh diautomasi dan masa tindak balas manusia yang semakin singkat. Ejen AI—sistem yang boleh menggunakan alat dan melaksanakan beberapa langkah bagi pihak pengguna—berpotensi menguatkan gabungan itu. Tetapi bantuan yang diberi AI, cubaan menyalahgunakannya dan kemudaratan yang terbukti mesti dibezakan.182258

Risiko biologi: jawapan chatbot bukan senjata siap

AI boleh membantu penyelidikan yang bermanfaat. Menurut OpenAI, GPT-Rosalind menyokong penaakulan biologi dan aliran kerja eksperimen. Nature pula menghuraikan manfaat serta risiko dwiguna alat AI biologi seperti AlphaFold: keupayaan yang membantu penyelidik juga boleh menimbulkan kebimbangan jika disalahgunakan.1019

Kebimbangan itu bukan sekadar andaian. The New York Times melaporkan transkrip chatbot yang memberikan panduan berkaitan senjata biologi dan membincangkan cara mengelak daripada dikesan.21 Anthropic pula berkata pihaknya menggagalkan lima kemungkinan kes penggunaan Claude yang boleh menyokong pembangunan senjata biologi. Menurut Axios, dua daripadanya melibatkan permintaan berkaitan penyelidikan gain-of-function yang berbahaya—penyelidikan yang mengubah organisma untuk menghasilkan atau memperkuat sifat biologinya.25 Tiada satu pun laporan tersebut membuktikan senjata yang berfungsi telah dihasilkan.

Nasihat model juga tidak menggantikan kepakaran, bahan dan kerja makmal yang diperlukan untuk menghasilkan senjata biologi. Halangan praktikal ini masih penting, walaupun alat yang semakin baik mungkin mengurangkan sebahagiannya.1926 OpenAI mengelaskan keupayaan biologi GPT-5 sebagai berisiko tinggi dalam rangka kerja persediaannya, tetapi turut menyatakan bahawa ia belum mempunyai bukti muktamad model itu boleh membantu orang baharu menyebabkan kemudaratan biologi yang teruk secara bermakna.31 Itu ialah penilaian berjaga-jaga, bukannya bukti bahawa risikonya sudah berlaku atau tiada langsung.

Serangan siber: lebih pantas tidak bermakna setiap dakwaan terbukti

Ejen yang mempunyai akses kepada alat boleh membantu beberapa peringkat pencerobohan. Ini berpotensi meluaskan capaian penyerang sambil memendekkan masa untuk pihak pertahanan mengesan dan menghentikannya. Laporan mengenai pendedahan Anthropic menerangkan penggunaan AI dalam operasi siber dan kecurian data.5053

Satu kes yang dilaporkan melibatkan seorang penyerang menggunakan alat AI terhadap sembilan agensi kerajaan Mexico.54 Beberapa laporan sekunder menganggarkan kira-kira 400 juta rekod terdedah, tetapi jumlah itu tidak disahkan secara bebas oleh bukti yang tersedia di sini.5657 Dakwaan tentang kumpulan ejen penggodam yang menyerang sekitar 50 organisasi secara terselaras juga tidak cukup kukuh untuk dinyatakan sebagai kejadian yang telah terbukti.

Keupayaan siber bersifat dwiguna: mencari kelemahan sistem boleh membantu penyerang, atau membantu pihak pertahanan membaikinya. Bahan yang tersedia tidak mengesahkan dakwaan khusus bahawa GPT-5.6-Cyber menemui kelemahan yang kemudian ditampal dalam Chrome; ia tidak wajar dijadikan contoh yang sudah terbukti.

Maklumat palsu dan senjata autonomi boleh merumitkan krisis

Kes penyalahgunaan yang dilaporkan oleh Anthropic turut merangkumi operasi mempengaruhi pendapat.2250 Dalam krisis siber atau konflik, mesej palsu dan penyamaran boleh menyukarkan orang ramai serta pihak berkuasa memahami apa yang sedang berlaku. Namun, kes yang dipetik tidak menunjukkan kempen maklumat palsu berskala besar telah menghasilkan ancaman kewujudan kepada manusia.

Dalam konteks peperangan, Anthropic berkata pembangun yang berpangkalan di Rusia menggunakan Claude untuk membangunkan perisian kumpulan dron serangan, termasuk fungsi panduan, penyelarasan dan pemilihan sasaran.5160 Pembangunan perisian tidak sama dengan penggunaan di medan perang yang telah disahkan. Penggunaan AI pada dron juga, dengan sendirinya, tidak menjelaskan sejauh mana manusia masih mengawal keputusan menggunakan kekerasan maut. Jawatankuasa Palang Merah Antarabangsa (ICRC) memberi amaran bahawa senjata autonomi yang tindakannya tidak dapat difahami, dijangka atau dikawal secukupnya oleh manusia meningkatkan risiko terhadap orang awam dan boleh memburukkan konflik.58

Perlindungan perlu meliputi seluruh rantaian risiko

Chatbot yang menolak permintaan berbahaya ialah satu lapisan perlindungan, bukan penyelesaian lengkap. Penyelidik bioteknologi membincangkan penolakan permintaan dan sekatan terhadap fungsi berisiko tinggi, manakala RAND mengesyorkan perlindungan berlapis kerana tiada satu langkah mampu menghentikan semua pelaku yang bertekad.1729 Anthropic berkata pihaknya telah mengesan dan menggagalkan penyalahgunaan serta memperkukuh perlindungan bagi penyelidikan biologi sensitif.2223

Keutamaan praktikalnya ialah menguji sistem pada tugasan berbilang langkah, mengehadkan alat dan kebenaran yang diberikan kepada ejen, memantau tanda penyalahgunaan serta memastikan operasi boleh dihentikan. Bagi senjata, kawalan manusia yang bermakna mesti meliputi keputusan menggunakan kekerasan maut—bukan sekadar meletakkan seseorang dalam proses tanpa kuasa sebenar. Pertubuhan Bangsa-Bangsa Bersatu dan ICRC telah menyeru peraturan antarabangsa yang lebih kukuh untuk senjata maut autonomi; seruan itu bukan bermaksud larangan sejagat sudah berkuat kuasa.5558

Bukti yang ada memberi alasan untuk bertindak mencegah, bukan menganggap malapetaka pasti berlaku. AI dilaporkan telah memberikan bantuan berbahaya dan terlibat dalam cubaan penyalahgunaan berkaitan biologi, siber serta senjata. Untuk menyimpulkan bahawa malapetaka besar atau ancaman kewujudan telah berlaku, kita memerlukan bukti kemudaratan yang berjaya terjadi—bukan hanya model yang berkebolehan atau rancangan yang mencemaskan.212246