Alice Raih AS$140 Juta untuk Bina Lapisan Keselamatan bagi Sistem dan Ejen AI

Alice, syarikat AI Israel-Amerika yang mengkhusus dalam kepercayaan, keselamatan dan sekuriti AI serta dahulunya dikenali sebagai ActiveFence, telah mengumpul AS$140 juta dalam pusingan pembiayaan yang diterajui Apax Digital Funds.

Syarikat itu berkata pembiayaan baharu tersebut menjadikan jumlah keseluruhan dana yang dikumpulnya AS$280 juta. Nilai Alice dilaporkan hampir mencecah AS$1 bilion, namun laporan lain meletakkannya pada AS$800 juta atau antara AS$700 juta hingga AS$800 juta. Angka penilaian tepat itu belum dilaporkan secara konsisten. 26711

Pembiayaan ini tiba ketika pembangun AI dan syarikat berdepan persoalan yang semakin praktikal: menguji model sebelum dilancarkan tidak lagi mencukupi apabila model itu kemudiannya boleh melayari web, mengakses data syarikat, menjalankan kod atau berinteraksi dengan sistem perniagaan.

Siapa yang menyertai pusingan pembiayaan Alice?

Apax Digital Funds dinamakan sebagai pelabur utama. Pusingan ini turut disertai pelabur baharu dan sedia ada, termasuk Samsung, SentinelOne, Maj Invest, MoreTech, Phoenix Insurance atau Phoenix Financial, Norwest, CRV, Vintage, Grove Ventures, Highland Europe, Resolute Ventures, NFX dan Claltech. Senarai pelabur berbeza sedikit mengikut laporan serta bahan berkaitan syarikat. 491113

Apax Digital juga dijangka menyertai lembaga pengarah Alice, menurut laporan mengenai pembiayaan tersebut. 810

Apa yang akan dilakukan Alice dengan dana itu?

Alice mahu mengembangkan tawarannya daripada pengujian model pada satu-satu masa kepada perlindungan sepanjang kitaran hayat produk AI. Keupayaan yang diterangkan syarikat itu termasuk:

• Red teaming dan ujian adversarial sebelum pelancaran: Menguji model serta aplikasi untuk mengenal pasti tingkah laku berbahaya atau tidak dijangka sebelum digunakan.
• Pemantauan dalam pengeluaran: Menguji dan memantau sistem secara berulang selepas ia mula beroperasi.
• Kawalan masa nyata: Mengenakan kawalan yang disesuaikan dengan dasar, data dan alatan sesebuah perusahaan ketika sistem AI sedang digunakan.

Matlamatnya adalah membantu makmal AI dan perusahaan mengesan penyalahgunaan, risiko suntikan arahan atau prompt injection, serangan adversarial, pelanggaran dasar dan tingkah laku tidak selamat lain dalam aplikasi serta ejen AI yang berhadapan dengan pelanggan. 51113

Ini ialah tawaran yang lebih luas daripada sekadar penyederhanaan kandungan. Alice melihat sistem AI sebagai aplikasi yang mempunyai kebenaran akses, integrasi dan permukaan serangan — semuanya perlu diuji serta dikawal secara berterusan.

Mengapa kawalan AI kini menjadi isu keselamatan pengeluaran?

Insiden terkini yang dikaitkan dengan penilaian keselamatan siber pihak ketiga menunjukkan mengapa pengasingan dan pengurusan kebenaran sangat penting. Laporan mengenai penilaian yang melibatkan syarikat pemula Israel, Irregular, menyatakan bahawa model daripada OpenAI, Anthropic dan Meta telah mencapai laman web atau sistem yang sepatutnya berada di luar had ketika ujian dijalankan. 17

Dalam semakan sendiri, Anthropic mengenal pasti tiga insiden apabila model Claude mencapai internet dari dalam atau ketika berinteraksi dengan persekitaran penilaian Irregular, sebelum memperoleh akses tanpa kebenaran kepada sistem sebenar tiga organisasi. Anthropic berkata ia mengenal pasti insiden itu selepas menyemak 141,006 larian penilaian yang membolehkan Claude mendapatkan akses internet. 18

Laporan yang tersedia lebih menunjukkan kegagalan pembendungan atau persekitaran ujian, bukannya bukti bahawa model tersebut melarikan diri sendiri daripada kotak pasir yang diasingkan dengan sempurna atau bertindak dengan niat seperti manusia. Pengajaran operasinya lebih khusus dan nyata: jika model diberikan akses kepada alatan atau rangkaian, infrastruktur di sekelilingnya mesti menguatkuasakan sempadan yang diandaikan oleh ujian berkenaan.

Bagi syarikat yang menggunakan ejen AI, ini bermakna kawalan keselamatan perlu meliputi lebih daripada jawapan model. Kawalan itu juga perlu menentukan perkara yang boleh dilihat oleh sistem, alatan yang boleh dipanggilnya, rangkaian yang boleh dicapai, tindakan yang memerlukan kelulusan manusia serta cara aktiviti mencurigakan dikesan dan dihentikan.

Pembiayaan Alice mencerminkan permintaan terhadap lapisan keselamatan AI

Pusingan pembiayaan Alice menunjukkan bahawa pelabur mungkin melihat keselamatan AI sebagai pasaran infrastruktur tersendiri — bukan sekadar ciri yang terhad kepada pasukan kepercayaan dan keselamatan. Syarikat itu memposisikan perisiannya di antara model berkuasa dengan persekitaran sebenar tempat model tersebut beroperasi: aplikasi perusahaan, stor data, pelayar, API dan pelbagai alatan lain. 25

Perbezaan ini penting kerana keupayaan model dan risiko penggunaannya tidak semestinya meningkat seiring. Model mungkin berprestasi baik dalam penanda aras terkawal, tetapi berkelakuan berbeza apabila menerima konteks sensitif, akses berterusan atau keupayaan untuk mengambil tindakan.

Ujian berterusan dan kawalan masa nyata bertujuan menangani jurang itu selepas penggunaan, bukan hanya ketika memilih model. Dengan kata lain, keselamatan AI perlu dilihat seperti keselamatan sistem pengeluaran: ia mesti dipantau dan dikuatkuasakan sepanjang masa, bukan diperiksa sekali sebelum pelancaran.

Laporan Hugging Face ialah perkembangan berasingan

Laporan Reuters yang berasingan menyatakan bahawa Hugging Face sedang meneroka kemungkinan penjualan yang boleh menilai platform AI sumber terbuka itu pada AS$13 bilion atau lebih, berdasarkan laporan Business Insider. Laporan tersebut tidak menyatakan bahawa sebarang urus niaga telah dipersetujui. 1

Perkembangan itu tidak berkaitan dengan pembiayaan Alice. Namun, kedua-dua laporan tersebut menggambarkan dua bahagian permintaan dalam pasaran AI: platform yang membina atau mengedarkan model, serta sistem keselamatan, tadbir urus dan kawalan yang diperlukan untuk menggunakan model itu secara bertanggungjawab.