Dari Lobi AI Terbuka ke Keamanan Siber: OSAA Nvidia Meluncurkan SAFE di Black Hat

Apa yang ingin dilakukan SAFE?

Keamanan AI menghadapi masalah koordinasi yang berulang. Sebuah organisasi dapat menemukan serangan, kegagalan sistem, atau nyaris-insiden, sementara perusahaan lain menghadapi risiko serupa tanpa mengetahui pelajaran yang sudah tersedia.

Rancangan SAFE berfokus pada empat praktik utama:

• mengumpulkan dan menganalisis insiden serta nyaris-insiden keamanan AI secara rahasia;
• memberi tahu organisasi yang terdampak ketika suatu insiden relevan bagi mereka;
• menemukan pola kegagalan berulang pada pengendalian dan praktik keamanan; serta
• menghasilkan pembelajaran berbasis bukti tanpa menyalahkan pihak tertentu agar dapat diterapkan di seluruh ekosistem.

Tujuannya adalah mengubah kegagalan individual menjadi informasi pertahanan bersama. Serangan seperti prompt injection, kebocoran data, atau perilaku agen yang menyimpang tidak lagi harus diperlakukan sebagai kasus terpisah yang memaksa setiap perusahaan belajar dari nol.

Pada saat yang sama, unsur kerahasiaan dirancang agar organisasi tetap memiliki ruang untuk melaporkan insiden sensitif. Pelajaran yang telah digeneralisasi kemudian dapat dibagikan secara lebih luas tanpa membuka informasi yang berpotensi memperburuk dampak insiden.

OSAA sedang membangun lapisan keamanan, bukan satu produk

SAFE hanyalah salah satu bagian dari pendekatan OSAA. Aliansi ini juga menggabungkan berbagai teknologi terbuka dan dapat diperiksa untuk menangani lapisan keamanan agen AI yang berbeda.

Kontribusi yang dilaporkan mencakup:

• Nvidia: keluarga model dengan bobot terbuka, pengendalian runtime OpenShell untuk membatasi hal yang dapat diakses atau dilakukan agen, perangkat untuk menguji dan mengaudit agen, serta Garak, pemindai sumber terbuka untuk risiko seperti kebocoran data, prompt injection, dan jailbreak.
• Okta: implementasi referensi untuk identitas dan akses agen dengan protokol Cross App Access, yang ditujukan untuk menghubungkan agen dengan aplikasi perusahaan dalam lingkungan yang lebih terkendali.
• Red Hat: asago, proyek tata kelola sumber terbuka yang dirancang untuk menghubungkan kebijakan organisasi dengan izin saat runtime serta menyediakan jejak audit dari kebijakan hingga pengendalian.
• Amazon: Strands Agents, toolkit sumber terbuka untuk membangun dan mengevaluasi agen, bersama Cedar, bahasa untuk otorisasi.
• Anggota lain: proyek yang berfokus pada identitas seperti Agent Guard dan Agent Watch, yang memperkuat pandangan bahwa keamanan agen tidak cukup ditangani hanya dengan memindai model.

Jika dikembangkan lebih lanjut, berbagai komponen tersebut berpotensi membentuk seperangkat pengendalian bersama untuk identitas, izin, agent harness, perilaku runtime, evaluasi, data, tata kelola, dan ketahanan sistem. Perusahaan dapat menggunakannya untuk membatasi serta memantau agen, termasuk agen yang bertindak jahat atau keluar dari ruang lingkup yang ditetapkan.

Namun, hasil tersebut masih merupakan kemungkinan, bukan pencapaian yang telah dibuktikan.

Siapa saja yang bergabung?

Laporan menyebut OSAA telah menghimpun lebih dari 120 organisasi pada pekan pertamanya. Peserta besar yang disebut antara lain Nvidia, Adobe, BlackRock, Cisco, CrowdStrike, Hugging Face, Intel, Microsoft, Red Hat, dan Visa. Amazon digambarkan sebagai anggota yang lebih baru.

Aliansi ini muncul setelah Nvidia dan sejumlah perusahaan teknologi mendukung surat terbuka bertanggal 24 Juli 2026 yang mendesak pembuat kebijakan Amerika Serikat menghindari pembatasan luas dan terlalu dini terhadap model AI dengan bobot terbuka. Surat tersebut awalnya ditandatangani 25 perusahaan, termasuk Nvidia, Microsoft, Meta, IBM, Dell, Palantir, dan Hugging Face.

Para penandatangan berpendapat bahwa pembatasan terhadap model yang dapat diunduh berisiko mengurangi persaingan dan mendorong lebih banyak pengguna ke sistem AI China, ketika Washington mempertimbangkan respons keamanan nasional terhadap model-model tersebut.

Pada saat laporan mengenai Black Hat diterbitkan, Anthropic, OpenAI, dan Google disebut sebagai perusahaan besar yang belum bergabung dengan OSAA. Posisi mereka terkait surat terbuka tersebut lebih rumit karena laporan berbeda mengenai daftar penandatangan setelah surat pertama diterbitkan. Sebagian laporan menyebut OpenAI dan Google kemudian ditambahkan, sementara laporan lain menggambarkan keduanya tidak tercantum dalam kelompok awal.

Sumber yang tersedia tidak menjelaskan alasan perusahaan-perusahaan itu belum bergabung dengan OSAA. Karena itu, ketidakhadiran mereka tidak semestinya dikaitkan dengan motif tertentu.

Mengapa kecepatan OSAA penting?

Gagasan utama OSAA adalah keterbukaan dan keamanan tidak harus saling bertentangan. Model, perangkat, evaluasi, dan pembelajaran insiden yang terbuka dapat memberi lebih banyak pembela kemampuan untuk memeriksa kegagalan, mereproduksi kerentanan, dan menyesuaikan perbaikan.

SAFE berupaya menyeimbangkan keterbukaan tersebut dengan kerahasiaan selama proses pengumpulan dan analisis insiden. Dengan begitu, organisasi dapat berbagi informasi sensitif secara lebih aman, sementara pelajaran umum dan berbasis bukti tetap dapat dimanfaatkan oleh ekosistem yang lebih luas.

Komposisi lintas industri OSAA juga berpotensi membantu membangun antarmuka dan praktik bersama antara pengembang model, penyedia cloud dan infrastruktur, perusahaan keamanan, spesialis identitas, serta pengguna korporasi. Jika upaya ini matang, sistem AI terbuka bisa menjadi lebih mudah dievaluasi, dikendalikan, dan diterapkan secara bertanggung jawab.

Hal tersebut dapat memperkuat argumen kebijakan bahwa AI dengan bobot terbuka merupakan bagian dari daya saing Amerika Serikat, terutama ketika pembuat kebijakan di negara itu membahas cara menghadapi laboratorium AI China. Namun, OSAA belum membuktikan bahwa inisiatifnya telah meningkatkan daya saing AS atau menurunkan risiko AI secara sistemik.

Untuk saat ini, pencapaian yang paling terukur masih lebih terbatas dan konkret: koalisi beranggotakan lebih dari 120 organisasi telah bergerak dari advokasi AI terbuka menuju rancangan publik untuk pelaporan keamanan AI yang terkoordinasi, sementara para anggotanya menyumbangkan perangkat yang berpotensi membentuk lapisan pertahanan yang lebih terhubung pada masa mendatang.