كيف تحاول مايكروسوفت جعل وكلاء الذكاء الاصطناعي أكثر أمانًا باستخدام RAMPART وClarity
أطلقت مايكروسوفت أداتي RAMPART وClarity مفتوحتي المصدر لدمج أمان وكلاء الذكاء الاصطناعي داخل سير عمل التطوير وليس فقط في المراجعات النهائية. تتيح RAMPART للمطورين تحويل سيناريوهات الهجمات مثل prompt injection أو محاولات تسريب البيانات إلى اختبارات آلية تعمل داخل بيئة pytest وضمن خطوط CI/CD.
نشر بواسطةتم التحرير باستخدام GPT-5.5تم إنشاء الصور باستخدام GPT Image 2
أطلقت مايكروسوفت أداتي RAMPART وClarity مفتوحتي المصدر لدمج أمان وكلاء الذكاء الاصطناعي داخل سير عمل التطوير وليس فقط في المراجعات النهائية.
تتيح RAMPART للمطورين تحويل سيناريوهات الهجمات مثل prompt injection أو محاولات تسريب البيانات إلى اختبارات آلية تعمل داخل بيئة pytest وضمن خطوط CI/CD.
تساعد Clarity الفرق على تحليل المخاطر قبل كتابة الكود، ثم مراجعة الافتراضات بعد الحوادث أو الاختبارات الفاشلة لتحسين تصميم الأنظمة.
How is Microsoft addressing AI agent safety risks in enterprise environments with its new open‑source tools RAMPART and Clarity, and how doMicrosoft’s open‑source RAMPART and Clarity tools aim to embed AI agent safety checks throughout the development lifecycle.
موجّه الذكاء الاصطناعي
Create a landscape editorial hero image for this Studio Global article: How is Microsoft addressing AI agent safety risks in enterprise environments with its new open‑source tools RAMPART and Clarity, and how do. Article summary: Microsoft is addressing enterprise AI-agent safety by moving safety work into the normal engineering lifecycle: RAMPART turns adversarial and benign agent scenarios into repeatable CI tests, while Clarity helps teams rea. Topic tags: general, documentation, academic, general web, user generated. Reference image context from search candidates: Reference image 1: visual subject "### Microsoft Open Sources AI Safety Tools for Agent Development. Microsoft released RAMPART and Clarity as open-source projects intended to help developers test AI agents earlier" source context "Microsoft Open Sources AI Safety Tools for Agent Development -- Redmondmag.com" Reference ima
openai.com
مع توسّع استخدام وكلاء الذكاء الاصطناعي (AI Agents) داخل الشركات—لإدارة المهام، والوصول إلى أدوات داخلية، والتعامل مع بيانات حساسة—تزداد المخاطر الأمنية المرتبطة بها. فهذه الأنظمة قادرة على تنفيذ أوامر، استدعاء واجهات برمجة التطبيقات، وحتى تشغيل أدوات داخلية، ما يجعلها هدفًا لهجمات مثل حقن التعليمات (Prompt Injection) أو إساءة استخدام الأدوات.
لمعالجة هذه المخاطر، أعلنت مايكروسوفت في مايو 2026 عن أداتين مفتوحتي المصدر هما RAMPART وClarity، والهدف منهما إدخال الأمان مباشرة في دورة تطوير البرمجيات بدلاً من اعتباره خطوة مراجعة نهائية فقط.
الفكرة الأساسية بسيطة: إذا كان الوكيل الذكي سيعمل في بيئة حساسة، فيجب اختبار أمانه باستمرار منذ مرحلة التصميم وحتى التشغيل الفعلي.
Studio Global AI
مواصلة البحث الخاص بك
تتضمن هذه الصفحة إجابة مدعومة بالمصدر يمكنك المتابعة داخل Studio Global.
ما هي الإجابة المختصرة على "كيف تحاول مايكروسوفت جعل وكلاء الذكاء الاصطناعي أكثر أمانًا باستخدام RAMPART وClarity"؟
أطلقت مايكروسوفت أداتي RAMPART وClarity مفتوحتي المصدر لدمج أمان وكلاء الذكاء الاصطناعي داخل سير عمل التطوير وليس فقط في المراجعات النهائية.
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
أطلقت مايكروسوفت أداتي RAMPART وClarity مفتوحتي المصدر لدمج أمان وكلاء الذكاء الاصطناعي داخل سير عمل التطوير وليس فقط في المراجعات النهائية. تتيح RAMPART للمطورين تحويل سيناريوهات الهجمات مثل prompt injection أو محاولات تسريب البيانات إلى اختبارات آلية تعمل داخل بيئة pytest وضمن خطوط CI/CD.
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
تساعد Clarity الفرق على تحليل المخاطر قبل كتابة الكود، ثم مراجعة الافتراضات بعد الحوادث أو الاختبارات الفاشلة لتحسين تصميم الأنظمة.
كيف تحاول مايكروسوفت جعل وكلاء الذكاء الاصطناعي أكثر أمانًا باستخدام RAMPART وClarity
أطلقت مايكروسوفت أداتي RAMPART وClarity مفتوحتي المصدر لدمج أمان وكلاء الذكاء الاصطناعي داخل سير عمل التطوير وليس فقط في المراجعات النهائية. تتيح RAMPART للمطورين تحويل سيناريوهات الهجمات مثل prompt injection أو محاولات تسريب البيانات إلى اختبارات آلية تعمل داخل بيئة pytest وضمن خطوط CI/CD.
نشر بواسطةتم التحرير باستخدام GPT-5.5تم إنشاء الصور باستخدام GPT Image 2
أطلقت مايكروسوفت أداتي RAMPART وClarity مفتوحتي المصدر لدمج أمان وكلاء الذكاء الاصطناعي داخل سير عمل التطوير وليس فقط في المراجعات النهائية.
تتيح RAMPART للمطورين تحويل سيناريوهات الهجمات مثل prompt injection أو محاولات تسريب البيانات إلى اختبارات آلية تعمل داخل بيئة pytest وضمن خطوط CI/CD.
تساعد Clarity الفرق على تحليل المخاطر قبل كتابة الكود، ثم مراجعة الافتراضات بعد الحوادث أو الاختبارات الفاشلة لتحسين تصميم الأنظمة.
How is Microsoft addressing AI agent safety risks in enterprise environments with its new open‑source tools RAMPART and Clarity, and how doMicrosoft’s open‑source RAMPART and Clarity tools aim to embed AI agent safety checks throughout the development lifecycle.
موجّه الذكاء الاصطناعي
Create a landscape editorial hero image for this Studio Global article: How is Microsoft addressing AI agent safety risks in enterprise environments with its new open‑source tools RAMPART and Clarity, and how do. Article summary: Microsoft is addressing enterprise AI-agent safety by moving safety work into the normal engineering lifecycle: RAMPART turns adversarial and benign agent scenarios into repeatable CI tests, while Clarity helps teams rea. Topic tags: general, documentation, academic, general web, user generated. Reference image context from search candidates: Reference image 1: visual subject "### Microsoft Open Sources AI Safety Tools for Agent Development. Microsoft released RAMPART and Clarity as open-source projects intended to help developers test AI agents earlier" source context "Microsoft Open Sources AI Safety Tools for Agent Development -- Redmondmag.com" Reference ima
openai.com
مع توسّع استخدام وكلاء الذكاء الاصطناعي (AI Agents) داخل الشركات—لإدارة المهام، والوصول إلى أدوات داخلية، والتعامل مع بيانات حساسة—تزداد المخاطر الأمنية المرتبطة بها. فهذه الأنظمة قادرة على تنفيذ أوامر، استدعاء واجهات برمجة التطبيقات، وحتى تشغيل أدوات داخلية، ما يجعلها هدفًا لهجمات مثل حقن التعليمات (Prompt Injection) أو إساءة استخدام الأدوات.
لمعالجة هذه المخاطر، أعلنت مايكروسوفت في مايو 2026 عن أداتين مفتوحتي المصدر هما RAMPART وClarity، والهدف منهما إدخال الأمان مباشرة في دورة تطوير البرمجيات بدلاً من اعتباره خطوة مراجعة نهائية فقط.
الفكرة الأساسية بسيطة: إذا كان الوكيل الذكي سيعمل في بيئة حساسة، فيجب اختبار أمانه باستمرار منذ مرحلة التصميم وحتى التشغيل الفعلي.
Studio Global AI
مواصلة البحث الخاص بك
تتضمن هذه الصفحة إجابة مدعومة بالمصدر يمكنك المتابعة داخل Studio Global.
ما هي الإجابة المختصرة على "كيف تحاول مايكروسوفت جعل وكلاء الذكاء الاصطناعي أكثر أمانًا باستخدام RAMPART وClarity"؟
أطلقت مايكروسوفت أداتي RAMPART وClarity مفتوحتي المصدر لدمج أمان وكلاء الذكاء الاصطناعي داخل سير عمل التطوير وليس فقط في المراجعات النهائية.
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
أطلقت مايكروسوفت أداتي RAMPART وClarity مفتوحتي المصدر لدمج أمان وكلاء الذكاء الاصطناعي داخل سير عمل التطوير وليس فقط في المراجعات النهائية. تتيح RAMPART للمطورين تحويل سيناريوهات الهجمات مثل prompt injection أو محاولات تسريب البيانات إلى اختبارات آلية تعمل داخل بيئة pytest وضمن خطوط CI/CD.
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
تساعد Clarity الفرق على تحليل المخاطر قبل كتابة الكود، ثم مراجعة الافتراضات بعد الحوادث أو الاختبارات الفاشلة لتحسين تصميم الأنظمة.
RAMPART اختصار لـ Risk Assessment and Measurement Platform for Agentic Red Teaming. وهو إطار اختبار مصمم خصيصًا لتقييم أمان وكلاء الذكاء الاصطناعي. يسمح للمطورين بكتابة سيناريوهات طبيعية أو هجومية وتحويلها إلى اختبارات تلقائية.
تكامل مباشر مع pytest
تعتمد الأداة على pytest، وهو إطار اختبار شائع في لغة Python. هذا يعني أن المطورين يمكنهم كتابة اختبارات الأمان بنفس الطريقة التي يكتبون بها اختبارات الوحدات البرمجية (Unit Tests).
وبفضل هذا التكامل يمكن تشغيل اختبارات الأمان ضمن أنظمة التكامل المستمر (CI) وخطوط CI/CD التي تُشغّل الاختبارات تلقائيًا عند كل تعديل في الكود.
محاكاة الهجمات الواقعية
تتيح RAMPART إنشاء اختبارات تحاكي سيناريوهات قد يواجهها الوكيل في بيئة الإنتاج، مثل:
هجمات Prompt Injection التي تحاول تغيير تعليمات النموذج
طلبات تحاول تجاوز سياسات الأمان
أوامر أدوات غير آمنة مثل تشغيل أوامر خطيرة في النظام
محاولات تسريب بيانات حساسة
كل سيناريو يمكن تحويله إلى اختبار يتحقق مما إذا كان الوكيل سيرفض الطلب أو يتعامل معه بطريقة آمنة.
تحويل نتائج فرق الاختراق إلى اختبارات دائمة
في كثير من الأحيان تكتشف فرق الأمن أو ما يُعرف بفرق "الاختبار الأحمر" ثغرات خلال الاختبارات. المشكلة أن هذه النتائج قد تبقى تقارير فقط.
RAMPART يحاول حل هذه المشكلة عبر تحويل كل اكتشاف أمني—مثل ثغرة حقن تعليمات—إلى اختبار تراجعي (Regression Test) دائم يمنع إعادة ظهور نفس المشكلة في التحديثات اللاحقة.
التعامل مع السلوك غير الحتمي للنماذج
البرمجيات التقليدية غالبًا ما تعطي نفس النتيجة في كل مرة. لكن نماذج الذكاء الاصطناعي قد تتصرف بشكل احتمالي؛ أي أن نفس المدخلات قد تعطي نتائج مختلفة أحيانًا.
لذلك تعتمد RAMPART على تشغيل السيناريوهات الخطرة بشكل متكرر عبر إصدارات متعددة من النظام، ما يساعد الفرق على اكتشاف التغيرات غير المرغوبة في سلوك الوكيل بمرور الوقت.
حراسة التغييرات قبل الوصول إلى الإنتاج
عندما تعمل اختبارات RAMPART داخل بيئة CI/CD يمكن للشركات منع نشر التحديثات إذا فشلت اختبارات الأمان.
وهذا يشمل التغييرات في:
التعليمات (Prompts)
النماذج المستخدمة
الأدوات المتصلة بالوكيل
مصادر البيانات أو الاسترجاع
سياسات الأمان
إذا تسبب أي تغيير في سلوك غير آمن، يمكن إيقاف الإصدار قبل وصوله إلى المستخدمين.
Clarity: التفكير في المخاطر قبل كتابة الكود
بينما تركز RAMPART على الاختبار، تأتي Clarity في مرحلة أبكر بكثير: مرحلة التفكير في تصميم الوكيل.
تصف مايكروسوفت Clarity بأنها منصة نقاش منظّم تساعد الفرق على تقييم قرارات التصميم قبل كتابة سطر واحد من الكود.
توجّه الأداة الفرق للإجابة عن أسئلة أساسية مثل:
ما المهام التي يجب أن ينفذها الوكيل؟ وما المهام التي يجب أن يرفضها؟
ما الأدوات والصلاحيات التي يحتاجها؟
ما أنواع سوء الاستخدام أو الفشل المحتملة؟
ما الاختبارات أو الضوابط الأمنية التي يجب إضافتها قبل الإطلاق؟
هذا النوع من التفكير المبكر يساعد على اكتشاف الافتراضات الخطرة عندما يكون تعديل التصميم ما يزال سهلًا وأقل تكلفة.
تحليل الحوادث والأخطاء بعد وقوعها
لا تقتصر Clarity على مرحلة التخطيط. يمكن استخدامها أيضًا بعد حدوث مشكلة في النظام.
فإذا فشل الوكيل في اختبار أمان ضمن RAMPART أو حدث سلوك غير متوقع في الإنتاج، يمكن للفريق العودة إلى Clarity لتحليل:
المخاطر التي لم يتم توقعها
الضوابط التي كانت مفقودة
الاختبارات الجديدة التي يجب إضافتها
بعد ذلك يمكن تحويل هذه الدروس إلى اختبارات جديدة في RAMPART، ما يجعل النظام أكثر صلابة بمرور الوقت.
لماذا يهم ذلك للشركات؟
وكلاء الذكاء الاصطناعي في المؤسسات غالبًا ما يتعاملون مع بيئات معقدة: قراءة بيانات داخلية، استدعاء خدمات خارجية، تشغيل أدوات، والتفاعل مع المستخدمين.
في مثل هذه البيئات قد يؤدي هجوم بسيط مثل Prompt Injection إلى نتائج خطيرة مثل تنفيذ أوامر غير آمنة أو تسريب بيانات.
من خلال الجمع بين تحليل التصميم المنهجي والاختبار الهجومي الآلي المستمر، تحاول مايكروسوفت تحويل أمان الذكاء الاصطناعي إلى ممارسة هندسية يومية بدلاً من فحص نهائي لمرة واحدة.
ومع ازدياد استقلالية أنظمة الذكاء الاصطناعي، من المرجح أن تصبح هذه المقاربة—دمج الأمان داخل سير العمل الهندسي نفسه—جزءًا أساسيًا من بناء أنظمة ذكاء اصطناعي موثوقة في الشركات.
RAMPART اختصار لـ Risk Assessment and Measurement Platform for Agentic Red Teaming. وهو إطار اختبار مصمم خصيصًا لتقييم أمان وكلاء الذكاء الاصطناعي. يسمح للمطورين بكتابة سيناريوهات طبيعية أو هجومية وتحويلها إلى اختبارات تلقائية.
تكامل مباشر مع pytest
تعتمد الأداة على pytest، وهو إطار اختبار شائع في لغة Python. هذا يعني أن المطورين يمكنهم كتابة اختبارات الأمان بنفس الطريقة التي يكتبون بها اختبارات الوحدات البرمجية (Unit Tests).
وبفضل هذا التكامل يمكن تشغيل اختبارات الأمان ضمن أنظمة التكامل المستمر (CI) وخطوط CI/CD التي تُشغّل الاختبارات تلقائيًا عند كل تعديل في الكود.
محاكاة الهجمات الواقعية
تتيح RAMPART إنشاء اختبارات تحاكي سيناريوهات قد يواجهها الوكيل في بيئة الإنتاج، مثل:
هجمات Prompt Injection التي تحاول تغيير تعليمات النموذج
طلبات تحاول تجاوز سياسات الأمان
أوامر أدوات غير آمنة مثل تشغيل أوامر خطيرة في النظام
محاولات تسريب بيانات حساسة
كل سيناريو يمكن تحويله إلى اختبار يتحقق مما إذا كان الوكيل سيرفض الطلب أو يتعامل معه بطريقة آمنة.
تحويل نتائج فرق الاختراق إلى اختبارات دائمة
في كثير من الأحيان تكتشف فرق الأمن أو ما يُعرف بفرق "الاختبار الأحمر" ثغرات خلال الاختبارات. المشكلة أن هذه النتائج قد تبقى تقارير فقط.
RAMPART يحاول حل هذه المشكلة عبر تحويل كل اكتشاف أمني—مثل ثغرة حقن تعليمات—إلى اختبار تراجعي (Regression Test) دائم يمنع إعادة ظهور نفس المشكلة في التحديثات اللاحقة.
التعامل مع السلوك غير الحتمي للنماذج
البرمجيات التقليدية غالبًا ما تعطي نفس النتيجة في كل مرة. لكن نماذج الذكاء الاصطناعي قد تتصرف بشكل احتمالي؛ أي أن نفس المدخلات قد تعطي نتائج مختلفة أحيانًا.
لذلك تعتمد RAMPART على تشغيل السيناريوهات الخطرة بشكل متكرر عبر إصدارات متعددة من النظام، ما يساعد الفرق على اكتشاف التغيرات غير المرغوبة في سلوك الوكيل بمرور الوقت.
حراسة التغييرات قبل الوصول إلى الإنتاج
عندما تعمل اختبارات RAMPART داخل بيئة CI/CD يمكن للشركات منع نشر التحديثات إذا فشلت اختبارات الأمان.
وهذا يشمل التغييرات في:
التعليمات (Prompts)
النماذج المستخدمة
الأدوات المتصلة بالوكيل
مصادر البيانات أو الاسترجاع
سياسات الأمان
إذا تسبب أي تغيير في سلوك غير آمن، يمكن إيقاف الإصدار قبل وصوله إلى المستخدمين.
Clarity: التفكير في المخاطر قبل كتابة الكود
بينما تركز RAMPART على الاختبار، تأتي Clarity في مرحلة أبكر بكثير: مرحلة التفكير في تصميم الوكيل.
تصف مايكروسوفت Clarity بأنها منصة نقاش منظّم تساعد الفرق على تقييم قرارات التصميم قبل كتابة سطر واحد من الكود.
توجّه الأداة الفرق للإجابة عن أسئلة أساسية مثل:
ما المهام التي يجب أن ينفذها الوكيل؟ وما المهام التي يجب أن يرفضها؟
ما الأدوات والصلاحيات التي يحتاجها؟
ما أنواع سوء الاستخدام أو الفشل المحتملة؟
ما الاختبارات أو الضوابط الأمنية التي يجب إضافتها قبل الإطلاق؟
هذا النوع من التفكير المبكر يساعد على اكتشاف الافتراضات الخطرة عندما يكون تعديل التصميم ما يزال سهلًا وأقل تكلفة.
تحليل الحوادث والأخطاء بعد وقوعها
لا تقتصر Clarity على مرحلة التخطيط. يمكن استخدامها أيضًا بعد حدوث مشكلة في النظام.
فإذا فشل الوكيل في اختبار أمان ضمن RAMPART أو حدث سلوك غير متوقع في الإنتاج، يمكن للفريق العودة إلى Clarity لتحليل:
المخاطر التي لم يتم توقعها
الضوابط التي كانت مفقودة
الاختبارات الجديدة التي يجب إضافتها
بعد ذلك يمكن تحويل هذه الدروس إلى اختبارات جديدة في RAMPART، ما يجعل النظام أكثر صلابة بمرور الوقت.
لماذا يهم ذلك للشركات؟
وكلاء الذكاء الاصطناعي في المؤسسات غالبًا ما يتعاملون مع بيئات معقدة: قراءة بيانات داخلية، استدعاء خدمات خارجية، تشغيل أدوات، والتفاعل مع المستخدمين.
في مثل هذه البيئات قد يؤدي هجوم بسيط مثل Prompt Injection إلى نتائج خطيرة مثل تنفيذ أوامر غير آمنة أو تسريب بيانات.
من خلال الجمع بين تحليل التصميم المنهجي والاختبار الهجومي الآلي المستمر، تحاول مايكروسوفت تحويل أمان الذكاء الاصطناعي إلى ممارسة هندسية يومية بدلاً من فحص نهائي لمرة واحدة.
ومع ازدياد استقلالية أنظمة الذكاء الاصطناعي، من المرجح أن تصبح هذه المقاربة—دمج الأمان داخل سير العمل الهندسي نفسه—جزءًا أساسيًا من بناء أنظمة ذكاء اصطناعي موثوقة في الشركات.
microsoft.comIntroducing RAMPART and Clarity: Open source tools to bring safety ...
en.cryptonomist.chMicrosoft AI safety tools: RAMPART and Clarity for CI
openclawsome.comMicrosoft open-sources RAMPART and Clarity for agent safety
campustechnology.comMicrosoft Releases Open Source AI Safety Tools for Agent Development -- Campus Technology