كونتكست تجمع 4 ملايين دولار لأمن وكلاء الذكاء الاصطناعي أثناء عملهم

قد يمتلك وكيل ذكاء اصطناعي بيانات دخول صحيحة ويستخدم أداة معتمدة، لكن ذلك لا يعني أن كل إجراء يتخذه مناسب للمهمة المطلوبة منه. هذه الفجوة هي ما تسعى كونتكست (Kontext)، الشركة الناشئة في ميونيخ، إلى معالجته بعد جمع 4 ملايين دولار في جولة قادتها 42CAP، بمشاركة a16z CSX وHigh-Tech Gründerfonds (HTGF). وتعتزم الشركة توسيع فريقها الهندسي، وتطوير قدرات إضافية لفرض الضوابط أثناء التشغيل، ودعم نشر منتجها لدى الشركات. 14

لماذا لا تكفي بيانات الدخول الصحيحة؟

بات بإمكان وكلاء الذكاء الاصطناعي في بيئات العمل كتابة الشيفرات والوصول إلى الملفات والعمل باستخدام بيانات اعتماد الشركة. لكن التحقق من الهوية يجيب عن سؤال «من الذي يحاول الدخول؟»، لا عن سؤال «هل يحق له تنفيذ هذا الإجراء تحديداً؟». فإذا كانت مهمة الوكيل تلخيص مستند، فإن السماح له باستخدام أداة للملفات لا يبرر حذف ملفات أخرى لا صلة لها بالمهمة. 14

لهذا، تضع كونتكست برمجيتها بين الوكيل والأدوات والأنظمة التي يستخدمها، بهدف تقييم الإجراء المطلوب قبل تنفيذه في ضوء هوية الوكيل وسياق المهمة والسياسة الأمنية. وتصف إرشادات نشرتها الشركة آلية تجمع السياق عبر الاستدعاءات المتتابعة، ثم تقرر السماح بالإجراء أو رفضه أو تضييق نطاقه أو إحالته إلى إنسان. وتذكر إرشادات أخرى للشركة أن التقييم قد يشمل المستخدم والوكيل والأداة والإجراء والمورد المستهدف ومعايير الطلب وغرض المهمة والمخاطر. هذه أوصاف للنهج المقصود، وليست دليلاً مستقلاً على إمكان اعتراض كل إجراء يصدر عن وكيل. 41723

من المراقبة إلى منع الإجراء

بحسب التقارير، يمكن للفرق البدء بوضع المراقبة لمعرفة كيف ستُطبَّق السياسات المقترحة دون تعطيل العمل. وعند تفعيل الضوابط، تقول كونتكست إن الإجراءات غير المصرّح بها تُرفض قبل تنفيذها، مع تسجيل القرارات في سجل قابل للمراجعة. لكن المعلومات المتاحة لا تثبت أن المنصة تغطي جميع مسارات التنفيذ، ولا تحدد ضمانات الاحتفاظ بسجلات التدقيق. 5

من أسّس الشركة؟

شارك ينس إرنستبرغر وميشيل أوسڤالد في تأسيس كونتكست. وتصف التقارير خبراتهما مجتمعة بأنها تشمل الحوسبة الآمنة والتشفير التطبيقي وأنظمة الذكاء الاصطناعي، من دون أن تنسب كل مجال إلى أحدهما بعينه. 4

يقول إرنستبرغر في صفحته البحثية إنه يعمل في التشفير وأمن الحاسوب، ويذكر تدريباً بحثياً لدى a16z crypto ودراسة دكتوراه سابقة في جامعة ميونيخ التقنية. أما ملف أوسڤالد المهني المنشور فيذكر عملاً لدى Retarus وDeloitte ومشروعاً للابتكار في البيانات بجامعة ميونيخ التقنية؛ وهذه التفاصيل المهنية واردة في ملفه الذي يقدمه بنفسه. 1836

يمنح التمويل كونتكست موارد لتطوير نموذجها الأمني القائم على فحص الإجراءات. أما مدى موثوقية هذا النموذج عبر أدوات وبيئات عمل مختلفة، فسيظل بحاجة إلى أن تثبته عمليات النشر الفعلية. 15