Kontext’e yapay zekâ ajanları için çalışma anı güvenliğine 4 milyon dolar

Bir yapay zekâ ajanı şirket sistemlerine geçerli kimlik bilgileriyle bağlanabilir, onaylı bir aracı kullanabilir ve yine de göreviyle ilgisiz bir işlem yapmaya kalkışabilir. Münih merkezli Kontext’in çözmeye çalıştığı güvenlik sorunu bu: erişim izni, yapılabilecek her işlem için otomatik onay anlamına gelmiyor. Şirket, 42CAP liderliğinde; a16z CSX ve High-Tech Gründerfonds’un (HTGF) katılımıyla 4 milyon dolar yatırım aldı. Kaynağı mühendislik ekibini büyütmek, çalışma anında işlem denetimini geliştirmek ve kurumsal müşterilerin uygulamalarını desteklemek için kullanmayı planlıyor. Açıklanan bilgilerde işe alım hedefi, bütçe dağılımı veya uygulama takvimi belirtilmiyor. 145

Kimliği doğrulanmış bir ajan neden ayrıca denetlenmeli?

İş ortamındaki yapay zekâ ajanları kod yazabiliyor, dosyalara erişebiliyor ve şirket kimlik bilgileriyle araç kullanabiliyor. Kimlik doğrulama, sisteme kimin bağlandığı sorusunu yanıtlıyor; o kişinin ya da ajanın belirli bir işlemi yapmaya yetkili olup olmadığı ise ayrı bir karar. Örneğin bir belgeyi özetlemekle görevlendirilen ajanın dosya aracına erişmesi gerekebilir. Bu erişim, ilgisiz dosyaları silme yetkisi olduğu anlamına gelmez. İşlemin kendisi ve verilen görev de hesaba katılmalı. 14

Kontext’in yazılımı, ajanlarla kullandıkları araç ve sistemler arasında konumlanacak şekilde tasarlanmış. Şirketin anlattığı modelde işlem gerçekleşmeden önce ajanın kimliği, görevin bağlamı ve güvenlik politikası birlikte değerlendiriliyor. Kontext’in yayımladığı teknik rehber, önceki çağrılardan bağlam toplayıp bir isteğe izin verme, isteği reddetme, kapsamını daraltma veya kararı bir insana bırakma seçeneklerini tarif ediyor. Şirketin bir başka açıklamasında kullanıcı, ajan, araç, işlem, hedef kaynak, parametreler, görev amacı ve riskin değerlendirilmesi öngörülüyor. Bunlar yaklaşımın tarifleri; her olası işlemin yakalanabildiğine dair bağımsız bir doğrulama değil. 41723

Önce gözlem, ardından engelleme

Aktarılan bilgilere göre ekipler, önerilen kuralların ajan davranışına nasıl uygulanacağını işi durdurmadan görmek için platformu önce gözlem modunda kullanabiliyor. Denetim etkinleştirildiğinde Kontext, yetkisiz işlemlerin çalıştırılmadan reddedildiğini ve kararların denetlenebilir bir kayda geçirildiğini söylüyor. Mevcut bilgiler, bu korumanın bütün çalışma yollarını kapsadığını veya kayıtların ne kadar süre saklanacağını ortaya koymuyor. 5

Kurucular kim?

Kontext’i Jens Ernstberger ve Michel Osswald kurdu. Haberlerde ikilinin geçmişi güvenli bilişim, uygulamalı kriptografi ve yapay zekâ sistemleriyle ilişkilendiriliyor; bu uzmanlık alanları kurucular arasında tek tek paylaştırılmıyor. 4

Ernstberger, kişisel araştırma sayfasında çalışmalarını kriptografi ve bilgisayar güvenliği ekseninde tanımlıyor; a16z crypto’da araştırma stajı yaptığını ve Münih Teknik Üniversitesi’nde doktora çalışmalarında bulunduğunu belirtiyor. Osswald’ın kamuya açık mesleki profilinde Retarus ve Deloitte deneyiminin yanı sıra Münih Teknik Üniversitesi’ndeki bir veri inovasyonu projesi yer alıyor. Bu kişisel kariyer bilgileri ilgili profillerde beyan edilmiş bilgiler. 1836

Yatırım, Kontext’e işlem düzeyindeki güvenlik yaklaşımını geliştirmek için kaynak sağlıyor. Bu yaklaşımın farklı araçlarda ve müşteri ortamlarında ne kadar güvenilir çalıştığını ise uygulamadaki sonuçlar gösterecek. 15