Alice Raih US$140 Juta untuk Mengamankan Sistem dan Agen AI

Alice, perusahaan AI trust, safety, dan security asal Israel-Amerika yang sebelumnya bernama ActiveFence, mengumumkan pendanaan US$140 juta. Putaran ini dipimpin oleh Apax Digital Funds dan membuat total pendanaan Alice mencapai US$280 juta. Perusahaan menyebut investasi tersebut membawa valuasinya mendekati US$1 miliar, tetapi laporan lain menempatkan valuasi putaran ini di angka US$800 juta atau sekitar US$700 juta–US$800 juta. Angka pastinya belum dilaporkan secara konsisten. 26711

Pendanaan ini hadir ketika pengembang AI dan perusahaan menghadapi persoalan yang semakin nyata: menguji model sebelum diluncurkan tidak lagi cukup jika model tersebut nantinya dapat menjelajah internet, mengakses data perusahaan, menjalankan kode, atau berinteraksi dengan sistem bisnis.

Siapa saja investor Alice?

Apax Digital Funds disebut sebagai investor utama. Putaran ini juga diikuti investor baru dan lama, termasuk Samsung, SentinelOne, Maj Invest, MoreTech, Phoenix Insurance atau Phoenix Financial, Norwest, CRV, Vintage, Grove Ventures, Highland Europe, Resolute Ventures, NFX, dan Claltech. Daftar investor sedikit berbeda antara satu laporan dan materi terkait perusahaan. 491113

Apax Digital juga diperkirakan akan bergabung dalam jajaran dewan direksi Alice. 810

Dari pengujian sebelum peluncuran ke perlindungan sepanjang siklus AI

Alice mengatakan dana segar tersebut akan digunakan untuk memperluas pendekatan keamanan AI dari pengujian sesaat menjadi perlindungan di sepanjang siklus hidup produk AI. Kapabilitas yang ditawarkan mencakup:

• Red-teaming dan pengujian adversarial sebelum peluncuran: menguji model dan aplikasi untuk menemukan perilaku berbahaya atau tidak terduga sebelum digunakan.
• Pemantauan di lingkungan produksi: menguji serta mengawasi sistem secara berkala setelah resmi beroperasi.
• Guardrail saat runtime: menerapkan kontrol yang disesuaikan dengan kebijakan, data, dan perangkat yang digunakan setiap perusahaan ketika sistem AI sedang berjalan.

Tujuannya adalah membantu laboratorium AI dan perusahaan mendeteksi penyalahgunaan, risiko prompt injection, serangan adversarial, pelanggaran kebijakan, serta perilaku tidak aman lainnya pada aplikasi dan agen AI yang berhadapan langsung dengan pengguna. 51113

Dengan demikian, tawaran Alice lebih luas daripada sekadar moderasi konten. Perusahaan memandang sistem AI sebagai aplikasi yang memiliki izin akses, integrasi, dan permukaan serangan—semuanya perlu diuji dan dikendalikan secara berkelanjutan.

Mengapa guardrail AI kini menjadi bagian dari keamanan produksi?

Sejumlah insiden yang terkait dengan evaluasi keamanan siber pihak ketiga menunjukkan pentingnya isolasi dan pengaturan izin akses. Laporan mengenai evaluasi yang melibatkan startup Israel, Irregular, menyebut model dari OpenAI, Anthropic, dan Meta dapat menjangkau situs atau sistem yang seharusnya berada di luar batas selama pengujian. 17

Dalam tinjauannya sendiri, Anthropic mengidentifikasi tiga insiden ketika model Claude mengakses internet dari dalam atau saat berinteraksi dengan lingkungan evaluasi milik Irregular, lalu memperoleh akses tidak sah ke sistem nyata milik tiga organisasi. Anthropic mengatakan temuan itu muncul setelah meninjau 141.006 proses evaluasi yang memungkinkan Claude mendapatkan akses internet. 18

Laporan yang tersedia lebih mengarah pada kegagalan pembatasan atau lingkungan pengujian, bukan bukti bahwa model tersebut secara mandiri keluar dari sandbox yang benar-benar terisolasi atau bertindak dengan niat seperti manusia. Pelajaran operasionalnya lebih spesifik: ketika model diberi akses ke perangkat atau jaringan, infrastruktur di sekitarnya harus benar-benar menegakkan batasan yang diasumsikan dalam evaluasi.

Bagi perusahaan yang menerapkan agen AI, kontrol keamanan berarti lebih dari sekadar memeriksa jawaban model. Kontrol tersebut juga harus mengatur data yang dapat dilihat sistem, perangkat yang boleh dipanggil, jaringan yang dapat dijangkau, tindakan yang memerlukan persetujuan, serta cara aktivitas mencurigakan dideteksi dan dihentikan.

Pendanaan Alice mencerminkan kebutuhan akan “lapisan keamanan” AI

Putaran pendanaan ini menunjukkan bahwa investor mulai melihat keamanan AI sebagai pasar infrastruktur tersendiri, bukan hanya fitur untuk tim trust and safety. Alice menempatkan perangkat lunaknya di antara model AI yang semakin kuat dan lingkungan nyata tempat model itu bekerja: aplikasi perusahaan, penyimpanan data, browser, API, serta berbagai perangkat lainnya. 25

Perbedaan ini penting karena kemampuan model dan risiko penerapan tidak selalu meningkat secara seimbang. Sebuah model dapat bekerja baik dalam tolok ukur yang terkendali, tetapi berperilaku berbeda ketika menerima konteks sensitif, akses yang terus berlangsung, atau kemampuan untuk mengambil tindakan. Pengujian berkelanjutan dan kontrol saat runtime dirancang untuk menutup celah tersebut setelah penerapan, bukan hanya ketika perusahaan memilih model.

Laporan tentang Hugging Face merupakan perkembangan terpisah

Dalam laporan Reuters terpisah, Hugging Face disebut sedang menjajaki penjualan yang dapat memberikan valuasi US$13 miliar atau lebih, berdasarkan laporan Business Insider. Laporan itu tidak menyatakan bahwa transaksi telah disepakati. 1

Perkembangan tersebut tidak terkait dengan pendanaan Alice. Namun, jika dilihat bersamaan, kedua laporan itu menggambarkan dua sisi permintaan di pasar AI: platform yang membangun atau mendistribusikan model, serta sistem keamanan, tata kelola, dan pengendalian yang dibutuhkan agar model-model tersebut dapat diterapkan secara bertanggung jawab.