Kontext raih AS$4 juta untuk kawal tindakan ejen AI di tempat kerja

Ejen AI yang boleh membuka fail atau menggunakan perisian syarikat mungkin mempunyai akses yang sah. Namun, itu tidak bermakna setiap tindakan yang boleh dilakukannya patut dibenarkan. Jurang antara boleh mengakses dan patut bertindak inilah yang mahu ditangani oleh Kontext, syarikat pemula dari Munich yang meraih AS$4 juta dalam pusingan pembiayaan diketuai 42CAP, dengan penyertaan a16z CSX dan High-Tech Gründerfonds (HTGF). 14

Untuk apa dana itu digunakan?

Kontext merancang untuk mengembangkan pasukan kejuruteraannya, membina keupayaan tambahan bagi menguatkuasakan kawalan ketika ejen AI sedang beroperasi, dan menyokong penggunaan platformnya oleh pelanggan perusahaan. Laporan yang tersedia tidak memperincikan sasaran pengambilan pekerja, pecahan perbelanjaan atau jadual pelaksanaan. 15

Perisiannya diletakkan di antara ejen AI dengan alat dan sistem yang digunakan ejen tersebut. Matlamatnya ialah menilai tindakan yang diminta sebelum tindakan itu berlaku, bukannya menganggap kebenaran menggunakan sesuatu alat sebagai kebenaran melakukan apa sahaja dengannya. 14

Mengapa akses yang sah belum memadai?

Di tempat kerja, ejen AI boleh menulis kod, mengakses fail dan menggunakan kelayakan syarikat. Pengesahan identiti menjawab soalan siapa yang bertindak, tetapi bukan semestinya sama ada tindakan tertentu wajar dilakukan. Sebagai contoh, ejen yang ditugaskan meringkaskan dokumen mungkin perlu membuka fail, tetapi tugasan itu tidak dengan sendirinya membenarkannya memadam fail lain yang tidak berkaitan. 14

Menurut penerangan Kontext, kawalannya menghubungkan identiti, konteks tugasan dan dasar keselamatan sebelum tindakan diteruskan. Panduan yang diterbitkan syarikat menghuraikan proses yang mengumpulkan konteks merentas panggilan alat, kemudian membenarkan, menolak, mengehadkan atau merujuk tindakan kepada manusia. Panduan itu turut menyenaraikan faktor seperti pengguna, ejen, alat, tindakan, sumber sasaran, parameter, tujuan tugasan dan risiko. Ini ialah penerangan tentang pendekatan yang dirancang, bukan bukti bebas bahawa setiap tindakan ejen boleh dipintas. 41723

Perhati dahulu, kemudian kuatkuasakan

Pasukan pelanggan dilaporkan boleh bermula dengan mod pemerhatian untuk melihat kesan dasar yang dicadangkan tanpa menyekat kerja ejen. Apabila penguatkuasaan dihidupkan, Kontext menyatakan tindakan yang tidak dibenarkan akan ditolak sebelum dilaksanakan dan setiap keputusan direkodkan untuk audit. Namun, laporan yang tersedia tidak mengesahkan bahawa kawalan itu meliputi setiap laluan pelaksanaan atau memberikan jaminan khusus tentang tempoh penyimpanan rekod. 5

Kontext diasaskan oleh Jens Ernstberger dan Michel Osswald. Laporan menggambarkan pengalaman mereka secara bersama dalam pengkomputeran selamat, kriptografi gunaan dan sistem AI, tanpa mengaitkan setiap bidang kepada pengasas tertentu. Ernstberger menyatakan kerjanya tertumpu pada kriptografi dan keselamatan komputer; laman penyelidikannya menyenaraikan latihan penyelidikan di a16z crypto serta pengajian kedoktoran terdahulu di Technical University of Munich. Profil profesional Osswald pula menyenaraikan pengalaman di Retarus dan Deloitte serta projek inovasi data di universiti yang sama. Butiran kerjaya individu itu datang daripada profil mereka sendiri. 41836

Pembiayaan baharu memberi Kontext sumber untuk membangunkan model keselamatan pada peringkat tindakan. Sejauh mana model itu berfungsi secara konsisten merentas alat dan persekitaran pelanggan masih perlu dibuktikan melalui pelaksanaan sebenar. 15