AnswersPublished15 sources
Ketua AI dunia dijangka desak perlindungan bersama di Majlis Keselamatan PBB
Sidang anjuran Perancis pada 23 September dijangka membingkaikan AI canggih sebagai isu keselamatan antarabangsa, termasuk risiko penyalahgunaan dan kehilangan kawalan manusia. OpenAI dan Anthropic pernah menilai model awam satu sama lain untuk mengesan titik buta keselamatan, tetapi kerjasama antara pesaing perlu m...
Diterbitkan olehDisunting dengan GPT-5.6 TerraImej dijana dengan GPT Image 2
Research answer
Key takeaways
- Sidang anjuran Perancis pada 23 September dijangka membingkaikan AI canggih sebagai isu keselamatan antarabangsa, termasuk risiko penyalahgunaan dan kehilangan kawalan manusia.
- OpenAI dan Anthropic pernah menilai model awam satu sama lain untuk mengesan titik buta keselamatan, tetapi kerjasama antara pesaing perlu mengelak penyelarasan komersial.
- Saman tindakan kelas yang dicadangkan mendakwa beberapa syarikat AI berpakat memperlahankan pembangunan; dakwaan itu belum diputuskan mahkamah.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What will OpenAI CEO Sam Altman and Anthropic CEO Dario Amodei—along with Yoshua Bengio and Hugging Face CEO Clément Delangue—tell the UN Se. Article summary: The Security Council briefing is expected to frame advanced AI as an international security issue: misuse by malicious actors, the possibility that developers lose effective control of increasingly capable systems, and t. Topic tags: general web, ai safety, openai, chatgpt, prompt engineering. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wat
Majlis Keselamatan Pertubuhan Bangsa-Bangsa Bersatu (PBB) dijangka meletakkan AI canggih dalam kerangka keselamatan antarabangsa: teknologi itu boleh disalahgunakan oleh pelaku berniat jahat, manakala sistem yang semakin berkeupayaan mungkin melepasi kawalan berkesan pembangunnya. Sidang 23 September yang dianjurkan Perancis diadakan di bawah agenda “pengekalan keamanan dan keselamatan antarabangsa”. Namun, ucapan tepat setiap pembentang belum diumumkan kepada umum. 10
Apa yang dijangka dibawa ke meja PBB
Sam Altman dari OpenAI, Dario Amodei dari Anthropic, penyelidik AI Yoshua Bengio dan Ketua Pegawai Eksekutif Hugging Face, Clément Delangue, dijangka menekankan bahawa keselamatan model AI termaju tidak boleh diserahkan semata-mata kepada sesebuah syarikat atau negara.
Antara langkah yang berkemungkinan ditekankan ialah piawaian penilaian risiko yang dikongsi, perkongsian maklumat tentang keupayaan berbahaya dan insiden, ujian bebas, serta perlindungan bagi menghalang penggunaan AI untuk persenjataan atau tujuan berniat jahat lain. Fokus sidang itu memang merangkumi risiko AI terhadap keselamatan antarabangsa. 10
Ujian silang model: kerjasama yang ada hadnya
OpenAI dan Anthropic sebelum ini menjalankan penilaian bersama: setiap satu menggunakan ujian keselamatan dan salah jajaran dalaman mereka terhadap model keluaran awam pihak satu lagi, sebelum menerbitkan dapatan tersebut. Pendekatan ini memberi bentuk semakan timbal balik yang boleh membantu mengesan kelemahan yang mungkin terlepas pandang oleh makmal yang membangunkan model itu sendiri. 15
Namun, di sinilah timbul dilema besar. Syarikat pesaing perlu berkongsi akses serta maklumat keselamatan yang mencukupi agar ujian benar-benar bermakna. Pada masa sama, mereka tidak boleh berkongsi maklumat yang boleh membawa kepada penyelarasan peta jalan produk, masa pelancaran model, harga atau kelajuan kemajuan teknologi.
Dengan kata lain, ujian teknikal yang telus dan terhad lebih mudah dipertahankan berbanding keputusan bersama mengenai bila model perlu dilepaskan atau sejauh mana pembangunan patut diperlahankan.
Mengapa isu antitrust turut menjadi tumpuan
Satu saman tindakan kelas pengguna yang dicadangkan mendakwa Anthropic, OpenAI, SpaceXAI dan Google membuat perjanjian tidak sah untuk memperlahankan pembangunan AI. Ini ialah dakwaan plaintif, bukannya dapatan mahkamah. 1
Kes itu menggambarkan ketegangan asas dalam tadbir urus AI. Bagi penyokong keselamatan, ambang pelepasan bersama atau jeda pembangunan mungkin dilihat sebagai langkah pengurusan risiko yang wajar. Namun bagi plaintif, tindakan sama boleh ditafsirkan sebagai sekatan terhadap output oleh pesaing dominan.
Persoalan dasar yang sukar ialah cara membolehkan kerjasama keselamatan yang sempit skopnya, boleh diaudit dan berasaskan bukti, tanpa menjadikannya penyelarasan terselindung antara pesaing pasaran.
Berbeza dengan pendirian Trump di PBB
Agenda yang dipimpin Perancis melihat risiko AI termaju sebagai masalah tindakan bersama yang memerlukan perlindungan merentas sempadan. Pendirian Presiden Donald Trump di Perhimpunan Agung PBB pula mengambil arah politik yang berbeza: beliau menolak kawalan AI di peringkat antarabangsa, menyifatkan amaran keselamatan sebagai satu penipuan, dan menekankan kelebihan Amerika Syarikat dalam perlumbaan AI. Beliau juga berkata kerajaan persekutuan akan menggunakan istilah “super intelligence”, bukan “artificial intelligence”. 3
Laporan turut menyatakan penukaran istilah itu akan digunakan dalam komunikasi rasmi kerajaan AS. 2
Ringkasnya, pendekatan Perancis mencari peraturan bersama untuk mengelakkan perlumbaan yang mengorbankan keselamatan, manakala pendekatan Trump membingkaikan kekangan tersebut sebagai ancaman kepada daya saing teknologi Amerika Syarikat. Cabaran yang belum terjawab: bagaimana dunia boleh bekerjasama untuk mengurangkan risiko AI tanpa menjejaskan persaingan yang sah.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Ketua AI dunia dijangka desak perlindungan bersama di Majlis Keselamatan PBB"?
Sidang anjuran Perancis pada 23 September dijangka membingkaikan AI canggih sebagai isu keselamatan antarabangsa, termasuk risiko penyalahgunaan dan kehilangan kawalan manusia.
What are the key points to validate first?
Sidang anjuran Perancis pada 23 September dijangka membingkaikan AI canggih sebagai isu keselamatan antarabangsa, termasuk risiko penyalahgunaan dan kehilangan kawalan manusia. OpenAI dan Anthropic pernah menilai model awam satu sama lain untuk mengesan titik buta keselamatan, tetapi kerjasama antara pesaing perlu mengelak penyelarasan komersial.
What should I do next in practice?
Saman tindakan kelas yang dicadangkan mendakwa beberapa syarikat AI berpakat memperlahankan pembangunan; dakwaan itu belum diputuskan mahkamah.