Nilai Merah untuk AI Raksasa: Laporan Keamanan Terbaru Beri Nilai F untuk xAI, DeepSeek, dan Mistral

Anthropic menduduki peringkat pertama untuk kedua kalinya berturut-turut, tetapi lagi-lagi gagal menembus zona nilai menengah ^TF.

Enam Domain yang Dievaluasi

Sebuah panel independen yang terdiri dari tujuh pakar AI dan tata kelola menilai setiap perusahaan berdasarkan 37 indikator yang dikelompokkan ke dalam enam domain ^FF:

• Penilaian Risiko — 6 indikator yang mencakup bagaimana perusahaan mengevaluasi kemampuan berbahaya seperti risiko bio dan potensi serangan siber.
• Dampak Terkini — 9 indikator yang mengukur dampak buruk yang terdokumentasi dari sistem yang diterapkan, termasuk bias, misinformasi, dan pelanggaran privasi.
• Kerangka Keamanan — 4 indikator yang meneliti apakah perusahaan memiliki kebijakan konkret untuk pengujian pra-peluncuran, red-teaming, dan perilisan yang bertanggung jawab.
• Keamanan Eksistensial — 4 indikator yang berfokus pada rencana untuk mengendalikan sistem AI canggih, termasuk AGI dan superintelligence.
• Tata Kelola & Akuntabilitas — 4 indikator yang mengevaluasi pengawasan dewan, kebijakan perlindungan pelapor (whistleblowing), dan audit independen.
• Berbagi Informasi — 10 indikator yang menilai laporan transparansi, akses peneliti eksternal, dan pengungkapan publik praktik keamanan.

Menurut laporan, tidak ada perusahaan yang mendapat nilai di atas D di domain keamanan eksistensial untuk edisi kedua berturut-turut ^FCY. Panel ahli menemukan bahwa tidak satu pun dari sembilan perusahaan memiliki rencana yang kredibel untuk mengendalikan AGI atau superintelligence ^Y.

Mengapa xAI Mendapat Nilai F — Penurunan Paling Tajam

xAI jatuh dari peringkat ke-4 ke peringkat ke-7 antara edisi Musim Dingin 2025 dan Musim Panas 2026, penurunan paling curam di antara semua perusahaan yang dievaluasi ^TF. Skornya turun dari 1,17 (level D) menjadi 0,65 (level F) ^FL. Beberapa faktor mendorong kejatuhan ini:

• Gagal di banyak domain: xAI mendapat nilai F di domain "Dampak Terkini" dan "Keamanan Eksistensial," serta nilai hampir gagal di Penilaian Risiko dan Kerangka Keamanan ^FF.
• Tidak mengisi survei: xAI adalah salah satu perusahaan yang tidak berpartisipasi dalam survei lembaga tersebut, sehingga membatasi kemampuan pengulas untuk menilai praktik internal ^T.
• Pesaing meningkat sementara xAI terperosok: Meta naik dari peringkat ke-6 ke peringkat ke-4 pada periode yang sama ^TF.
• Posisi komparatif yang lemah: Hanya xAI, DeepSeek, dan Mistral yang mendapat nilai gagal keseluruhan, menempatkan xAI di antara perusahaan dengan peringkat terendah dalam indeks ^TF.

Enam Kekhawatiran Utama yang Diangkat Laporan

Laporan FLI serta liputan dari Time dan Axios mengidentifikasi enam masalah sistemik ^T:

1. Industri mundur dari janji keamanan. Anthropic, OpenAI, Google DeepMind, dan Meta melemahkan atau menghilangkan komitmen awal untuk menghentikan pengembangan jika sistem mereka mendekati ambang bahaya yang ditentukan. Laporan menggambarkan ini sebagai "memindahkan gawang" ^AT.

2. Keamanan eksistensial tetap menjadi kategori terlemah di semua perusahaan. Tidak ada perusahaan yang mendapat nilai di atas D dalam keamanan eksistensial untuk indeks kedua berturut-turut ^TFY.

3. Keamanan sukarela terkikis sebelum regulasi tiba. Ketua FLI, Max Tegmark, memperingatkan bahwa perusahaan AI "berlari menuju jurang" sambil berlomba menuju superintelligence buatan meskipun mengakui risiko besar ^T.

4. Meningkatnya penggunaan AI komersial untuk militer. Perusahaan yang sebelumnya melarang pekerjaan militer secara luas—termasuk Anthropic, OpenAI, dan Google—telah beralih ke kemitraan militer ^T.

5. Pola kegagalan global yang muncul. Tiga nilai gagal berasal dari perusahaan yang terkait dengan berbagai kawasan: xAI (AS), DeepSeek (China), dan Mistral (Eropa) ^TFF.

6. Kemampuan melampaui langkah perlindungan. Rilis laporan ini bertepatan dengan konferensi AI PBB di Jenewa di mana Sekretaris Jenderal PBB António Guterres memperingatkan, "Kita mungkin menjadi generasi terakhir yang dapat menentukan syarat-syarat bagaimana umat manusia dan mesin hidup berdampingan" ^T.

Yang Perusak Perhatian ke Depan

FLI AI Safety Index diterbitkan dua kali setahun, menjadi pemeriksaan rutin apakah industri sedang mengatasi kesenjangan keamanan paling mendasarnya. Edisi Musim Dingin 2026 akan menunjukkan apakah perusahaan seperti xAI dan DeepSeek dapat membalikkan tren penurunan mereka—dan apakah ada perusahaan yang akhirnya menembus batas C+.