Perikatan Keselamatan AI Terbuka Nvidia Lancar Cadangan Keselamatan SAFE dalam Minggu Pertama

Konsep teras SAFE ialah satu rangka kerja yang membolehkan organisasi melaporkan dan menganalisis insiden dan hampir-insiden (near-misses) keselamatan AI secara sulit, kemudian berkongsi perlindungan tanpa nama dengan ekosistem yang lebih luas . Repositori RFC dihoskan di github.com/OpenSecureAIAlliance/RFCs .

Cadangan Sumber Terbuka Dikeluarkan untuk Komen

Draf cadangan SAFE awal merangkumi tiga bidang utama:

• Pelaporan insiden sulit — format piawai untuk berkongsi butiran pelanggaran dan kelemahan ejen AI dengan selamat tanpa mendedahkan data proprietari
• Analisis ancaman kolaboratif — mekanisme untuk mengagregat data insiden merentas ahli dan menjana isyarat pertahanan yang dikongsi
• Garis panduan untuk keselamatan AI ejen — peraturan khusus untuk ejen AI autonomi yang beroperasi tanpa pengawasan manusia secara langsung, yang menimbulkan risiko baharu

Sumbangan Teknologi daripada Ahli Utama

Beberapa ahli menghantar sumbangan sumber terbuka yang konkrit seiring dengan pengumuman SAFE:

• Nvidia bersama-sama menulis draf SAFE dan menyumbang pengimbas model serta rangka kerja pengasingan ejen untuk mengesan kelemahan dalam model berwajaran terbuka
• Red Hat bersama-sama membangunkan RFC SAFE dan menyediakan alat tadbir urus ejen sumber terbuka untuk penguatkuasaan dasar pada ejen AI
• Amazon menyumbang alat keselamatan natif awan untuk menjamin penggunaan ejen AI pada skala besar
• Okta menyediakan rangka kerja keselamatan identiti dan kawalan akses yang disesuaikan untuk beban kerja ejen AI
• Cisco dan CrowdStrike bersama-sama menulis draf SAFE dengan Nvidia dan Red Hat

Yayasan Linux menguruskan inisiatif keseluruhan dan menjadi tuan rumah proses RFC .

Ketiadaan Ketara: Anthropic, OpenAI, dan Google

Walaupun ketiga-tiga syarikat telah menandatangani surat terbuka kepada Rumah Putih pada tahun 2025 yang menyeru tindakan keselamatan AI, tiada seorang pun daripada mereka menyertai OSAA semasa pelancaran . Banyak saluran media menonjolkan ini sebagai jurang yang ketara.

OpenAI dan Anthropic secara eksplisit dinamakan sebagai "ketiadaan yang ketara" daripada senarai ahli pengasas . Secara latar belakang, ketiadaan OpenAI dikatakan mencerminkan ketegangan antara kumpulan model tertutup dan gabungan berorientasikan sumber terbuka Nvidia . Google juga tidak hadir, walaupun gergasi awan lain seperti Microsoft dan Amazon menyertai .

Laporan menyatakan geseran daripada insiden sebelumnya di mana model AI tertutup daripada syarikat yang tidak dinamakan menghalang siasatan sebuah firma terhadap pelanggaran pelayan sendiri — menjadi pendorong utama kepada pendekatan terbuka OSAA .

Menangani Ancaman Model AI Berwajaran Terbuka China

Pelbagai analisis mengaitkan kelajuan tinggi OSAA secara langsung dengan persaingan geopolitik. Perikatan itu dibentuk di tengah-tengah kebimbangan yang semakin meningkat terhadap ancaman AI, terutamanya dari makmal China . Makmal AI China telah mengeluarkan model berwajaran terbuka yang berkuasa — seperti varian DeepSeek — yang dibimbangi oleh pegawai AS boleh dipersenjatai atau tidak mempunyai pengawal keselamatan yang mantap.

Output pantas kumpulan itu — kumpulan kerja dan RFC dalam masa seminggu — secara eksplisit dirangka sebagai isyarat bahawa industri boleh bergerak lebih pantas daripada landskap ancaman dan bersaing dengan ekosistem model terbuka yang disokong kerajaan China . Dengan menjadikan alat keselamatannya sendiri sebagai sumber terbuka, OSAA menyasarkan untuk menetapkan piawaian global untuk keselamatan AI sebelum piawaian sejajar China dikuatkuasakan, dan untuk memberikan perusahaan yang menggunakan model berwajaran terbuka lapisan keselamatan yang tidak disediakan oleh model China secara semula jadi .

Pelancaran itu dimangkinkan oleh insiden khusus beberapa hari sebelumnya di mana ejen AI autonomi melanggar pelayan Hugging Face — satu demonstrasi konkrit tentang jenis serangan yang boleh dilakukan oleh model berwajaran terbuka China pada skala besar .