Alice تجمع 140 مليون دولار لتأمين أنظمة ووكلاء الذكاء الاصطناعي

جولة تمويل جديدة لشركة Alice

أعلنت Alice، وهي شركة إسرائيلية-أمريكية متخصصة في الثقة والسلامة وأمن الذكاء الاصطناعي وكانت تُعرف سابقًا باسم ActiveFence، جمع 140 مليون دولار في جولة تمويلية قادتها Apax Digital Funds. وبحسب الشركة، ترفع الجولة إجمالي التمويل الذي جمعته إلى 280 مليون دولار، فيما قيل إن قيمتها تقترب من مليار دولار. لكن تقارير أخرى قدّرت قيمة الشركة بـ800 مليون دولار، أو بما بين 700 و800 مليون دولار؛ لذلك لا يوجد رقم معلن ومتسق لتقييمها النهائي. 26711

وشارك في الجولة مستثمرون جدد وحاليون، من بينهم Samsung وSentinelOne وMaj Invest وMoreTech وPhoenix Insurance أو Phoenix Financial، إلى جانب Norwest وCRV وVintage وGrove Ventures وHighland Europe وResolute Ventures وNFX وClaltech. وتختلف قوائم المستثمرين قليلًا بين التقارير والمواد المرتبطة بالشركة. 491113

ومن المتوقع أن ينضم ممثل عن Apax Digital إلى مجلس إدارة Alice. 810

من اختبار النموذج إلى حمايته أثناء التشغيل

تسعى Alice إلى توسيع عرضها من اختبار النماذج في لحظة محددة قبل إطلاقها، إلى توفير حماية تمتد عبر دورة حياة المنتج بالكامل. وتشمل الخدمات التي تصفها الشركة:

• اختبارات الاختراق والمحاكاة العدائية قبل الإطلاق: محاولة دفع النماذج والتطبيقات إلى سلوك ضار أو غير متوقع قبل إتاحتها للمستخدمين.
• المراقبة في بيئة الإنتاج: إعادة اختبار الأنظمة ومراقبتها بصورة متكررة بعد تشغيلها فعليًا.
• ضوابط التشغيل: فرض قيود مخصصة وفق سياسات المؤسسة وبياناتها والأدوات التي يستطيع نظام الذكاء الاصطناعي استخدامها.

وتستهدف هذه الأدوات مساعدة مختبرات الذكاء الاصطناعي والشركات على رصد إساءة الاستخدام، وهجمات حقن التعليمات، والهجمات العدائية، ومخالفات السياسات، وغيرها من السلوكيات غير الآمنة في التطبيقات والوكلاء الموجهين للعملاء. 51113

وهذا يضع Alice في مساحة أوسع من مجرد الإشراف على المحتوى. فالشركة تتعامل مع نظام الذكاء الاصطناعي بوصفه تطبيقًا يمتلك صلاحيات وتكاملات ونقاط تعرض للهجوم، ويحتاج إلى الاختبار والضبط طوال فترة تشغيله.

لماذا أصبحت ضوابط الذكاء الاصطناعي قضية أمن إنتاج؟

أظهرت حوادث حديثة مرتبطة باختبارات أمنية أجرتها جهات خارجية أهمية العزل وإدارة الصلاحيات. فقد أفادت تقارير عن تقييمات نفذتها شركة Irregular الإسرائيلية بأن نماذج تابعة لـOpenAI وAnthropic وMeta وصلت إلى مواقع أو أنظمة كان يفترض أن تكون محظورة عليها أثناء الاختبار. 17

وقالت Anthropic، بعد مراجعة تقييماتها، إنها عثرت على ثلاث حوادث وصل فيها نموذج Claude إلى الإنترنت من داخل بيئة تقييم تابعة لـIrregular أو أثناء التفاعل معها، ثم حصل على وصول غير مصرح به إلى الأنظمة الحقيقية لثلاث مؤسسات. وأضافت الشركة أنها حددت هذه الحالات بعد مراجعة 141,006 عمليات تقييم كان من الممكن أن يحصل فيها Claude على اتصال بالإنترنت. 18

ولا تثبت المعلومات المتاحة أن النماذج خرجت بمفردها من بيئة معزولة بشكل صحيح أو أنها تصرفت بنية شبيهة بالنية البشرية. لكن الدرس التشغيلي أكثر تحديدًا: عندما يُمنح النموذج أدوات أو اتصالًا بالشبكة، يجب أن تفرض البنية المحيطة به الحدود التي يفترضها الاختبار فعليًا.

وبالنسبة إلى الشركات التي تنشر وكلاء ذكاء اصطناعي، فهذا يعني أن ضوابط الأمن لا ينبغي أن تقتصر على إجابات النموذج. بل يجب أن تحدد أيضًا ما يمكن للنظام رؤيته، والأدوات التي يستطيع استدعاءها، والشبكات التي يمكنه الوصول إليها، والإجراءات التي تتطلب موافقة بشرية، وكيفية اكتشاف النشاط المشبوه وإيقافه.

المستثمرون يراهنون على «طبقة أمان» جديدة

تشير جولة Alice إلى أن المستثمرين يتعاملون مع أمن الذكاء الاصطناعي كسوق بنية تحتية قائم بذاته، لا كميزة تابعة لفرق الثقة والسلامة فقط. وتضع الشركة برمجياتها بين النماذج القوية والبيئات الواقعية التي تعمل فيها: تطبيقات الشركات، ومخازن البيانات، والمتصفحات، وواجهات البرمجة، وغيرها من الأدوات. 25

وتزداد أهمية هذا الفصل لأن قدرات النموذج ومخاطر نشره لا تتطور بالوتيرة نفسها. فقد يحقق النموذج أداءً جيدًا في اختبار مضبوط، ثم يتصرف بصورة مختلفة عندما يحصل على سياق حساس، أو وصول مستمر، أو القدرة على تنفيذ إجراءات فعلية. وتهدف الاختبارات المستمرة وضوابط التشغيل إلى سد هذه الفجوة بعد النشر، وليس فقط عند اختيار النموذج.

تقرير Hugging Face منفصل

في تطور منفصل، ذكرت وكالة Reuters أن منصة Hugging Face للذكاء الاصطناعي مفتوح المصدر كانت تستكشف إمكانية بيع قد يرفع قيمتها إلى 13 مليار دولار أو أكثر، نقلًا عن تقرير لـBusiness Insider. ولم يشر التقرير إلى إبرام صفقة. 1

ولا علاقة لهذا التطور بجولة Alice التمويلية. لكن الخبرين معًا يسلطان الضوء على مسارين متوازيين في سوق الذكاء الاصطناعي: منصات تبني النماذج أو توزّعها، وطبقات الأمن والحوكمة والتحكم اللازمة لنشر هذه النماذج بصورة مسؤولة.