Kontext Raih Pendanaan US$4 Juta untuk Mengawasi Tindakan Agen AI

Agen AI di tempat kerja bisa menulis kode, membuka berkas, dan menggunakan kredensial perusahaan. Namun, punya akses bukan berarti boleh melakukan semua hal. Itulah masalah yang ingin ditangani Kontext, startup keamanan asal München yang meraih pendanaan US$4 juta. Putaran ini dipimpin 42CAP, dengan partisipasi a16z CSX dan High-Tech Gründerfonds (HTGF). 14

Apa yang akan dibiayai?

Kontext berencana menggunakan dana tersebut untuk memperbesar tim rekayasa, mengembangkan kemampuan tambahan untuk mengendalikan tindakan agen AI saat beroperasi, serta mendukung penerapan produknya di perusahaan. Laporan yang tersedia tidak merinci target perekrutan, pembagian anggaran, atau jadwal penerapan. 15

Perangkat lunak Kontext ditempatkan di antara agen AI dan alat atau sistem yang digunakannya. Tujuannya bukan hanya memeriksa apakah agen boleh memakai suatu alat, melainkan juga menilai tindakan spesifik yang hendak dilakukan melalui alat itu. 15

Mengapa kredensial yang sah belum cukup?

Autentikasi memastikan identitas agen, tetapi tidak menjawab apakah setiap tindakannya sesuai dengan tugas. Sebagai gambaran, agen yang ditugaskan merangkum dokumen mungkin memang perlu membuka berkas. Akses tersebut tidak otomatis memberinya alasan untuk menghapus berkas lain yang tidak berkaitan. Karena itu, operasi yang diminta dan tujuan penugasan perlu dipertimbangkan bersama kredensialnya. 14

Kontext menjelaskan pendekatannya sebagai penghubung antara identitas, konteks tugas, dan kebijakan sebelum suatu tindakan terjadi. Dalam panduan keamanan yang diterbitkannya, perusahaan menguraikan proses untuk mengumpulkan konteks dari serangkaian permintaan, lalu mengizinkan, menolak, membatasi, atau menyerahkan keputusan kepada manusia. Panduan lain dari Kontext menyebut pemeriksaan terhadap pengguna, agen, alat, tindakan, sumber daya yang dituju, parameter, maksud tugas, dan risiko. Ini adalah uraian tentang pendekatan yang dirancang perusahaan, bukan bukti independen bahwa setiap tindakan agen pasti dapat dicegat. 41723

Mulai dengan mengamati, lalu menerapkan aturan

Menurut laporan, pelanggan dapat memulai dengan observe mode: melihat bagaimana kebijakan yang direncanakan akan berlaku tanpa lebih dulu menghambat pekerjaan agen. Setelah kontrol diaktifkan, Kontext menyatakan tindakan yang tidak diizinkan ditolak sebelum dijalankan dan setiap keputusan dicatat agar dapat diaudit. Meski demikian, laporan yang tersedia belum memastikan bahwa kontrol ini mencakup semua jalur eksekusi atau menjelaskan jaminan lama penyimpanan catatannya. 5

Siapa pendirinya?

Jens Ernstberger dan Michel Osswald mendirikan Kontext bersama. Laporan menggambarkan latar belakang mereka secara kolektif mencakup komputasi aman, kriptografi terapan, dan sistem AI, tanpa menyebut bidang mana yang menjadi keahlian masing-masing. 4

Di laman riset pribadinya, Ernstberger menyebut fokusnya pada kriptografi dan keamanan komputer, pernah menjalani magang riset di a16z crypto, serta sebelumnya menempuh studi doktoral di Technical University of Munich. Profil profesional Osswald mencantumkan pengalaman di Retarus dan Deloitte serta proyek inovasi data di universitas yang sama; rincian karier Osswald itu berasal dari profil yang ia isi sendiri. 1836

Pendanaan ini memberi Kontext sumber daya untuk mengembangkan model keamanan yang memeriksa tindakan satu per satu. Seberapa andal model tersebut bekerja di berbagai alat dan lingkungan perusahaan masih perlu dibuktikan melalui penerapannya. 15