هذا يسمح للشركات بالقيام بعدة أمور في مكان واحد:
تصف الشركة منصتها بأنها نظام يساعد المؤسسات على اختبار وحماية ومراقبة وتحسين أنظمة الذكاء الاصطناعي بشكل مستمر، ما يحول حوكمة الذكاء الاصطناعي من عملية تقييم لمرة واحدة إلى قدرة تشغيلية دائمة.
مع الانتشار السريع لتطبيقات الذكاء الاصطناعي التوليدي، ظهرت مجموعة من المخاطر التشغيلية التي قد تؤثر على الشركات. منصة White Circle تركز على رصد هذه المشاكل فور حدوثها.
نماذج اللغة الكبيرة قد تنتج إجابات تبدو واثقة لكنها غير صحيحة. تقوم المنصة بتحليل المخرجات واكتشاف الإجابات المشبوهة أو المتناقضة قبل وصولها للمستخدم النهائي.
يمكن للمهاجمين صياغة مطالبات معينة لإجبار النموذج على تجاوز قواعد الأمان أو الكشف عن معلومات حساسة. تراقب المنصة هذه المحاولات وتمنعها تلقائيًا.
مع مرور الوقت قد يتغير سلوك النموذج نتيجة تغير البيانات أو سلوك المستخدمين أو تكاملات جديدة. المراقبة المستمرة تسمح للشركات باكتشاف هذه التغيرات غير المتوقعة بسرعة.
أنظمة الذكاء الاصطناعي قد تكشف دون قصد معلومات سرية من خلال الذاكرة أو قواعد المعرفة أو التكامل مع مصادر خارجية. تقوم White Circle بفحص التفاعلات لمنع تسرب هذه البيانات.
اتجاهات حديثة مثل بناء التطبيقات بسرعة باستخدام أدوات الذكاء الاصطناعي أو الاعتماد الكبير على الكود المولد آليًا قد تؤدي إلى نشر ميزات دون طبقات مراقبة كافية. تقدم المنصة طبقة أمان إضافية في مثل هذه البيئات السريعة التطور.
أسس الشركة المهندس دينيس شيلوف (Denis Shilov)، الذي لفت الأنظار في عام 2024 بعد أن نشر تجربة أظهرت إمكانية تجاوز فلاتر الأمان في عدة نماذج ذكاء اصطناعي عبر مطلب واحد قابل لإعادة الاستخدام.
هذا الأسلوب، الذي وصفه باحثون بأنه "جلبريك عالمي" (Universal Jailbreak)، كان يعيد تعريف دور النموذج بحيث يتصرف كواجهة برمجية بسيطة تستجيب للطلبات دون تطبيق قواعد السلامة المدمجة.
التجربة أبرزت مشكلة مهمة: الاعتماد على آليات الأمان داخل النموذج وحدها قد لا يكون كافيًا، ولهذا ظهرت الحاجة إلى طبقات مراقبة خارجية تعمل أثناء تشغيل الأنظمة الفعلية.
نجحت White Circle في جمع 11 مليون دولار في جولة التمويل الأولية بمشاركة مجموعة من أبرز الشخصيات في عالم الذكاء الاصطناعي والبنية التحتية التقنية.
ومن بين المستثمرين:
وجود هذه الأسماء يعكس مدى الاهتمام المتزايد ببناء بنية تحتية لمراقبة وأمان الذكاء الاصطناعي مع توسع استخدامه في المؤسسات.
تخطط White Circle لاستخدام رأس المال الجديد في ثلاثة مجالات رئيسية:
وتشير تقارير إلى أن المنصة عالجت بالفعل أكثر من مليار طلب API، ما يدل على أن بعض المؤسسات بدأت بالفعل استخدام النظام لإدارة تطبيقات الذكاء الاصطناعي على نطاق واسع.
مع تحول الذكاء الاصطناعي التوليدي إلى جزء أساسي من المنتجات الرقمية، بدأت الشركات تدرك أن التحدي لم يعد فقط في بناء النماذج، بل في تشغيلها بأمان وموثوقية داخل بيئات الإنتاج.
لهذا السبب تظهر شركات مثل White Circle لتوفير ما يعتبره كثير من المهندسين طبقة مفقودة في منظومة الذكاء الاصطناعي: أدوات تجعل سلوك النماذج قابلًا للمراقبة والتحكم بعد نشرها، مع القدرة على اكتشاف الأخطاء والهجمات وتسرب البيانات في الوقت الحقيقي.
Comments
0 comments