ما الذي تريد SAFE تنظيمه؟

تعالج المبادرة مشكلة متكررة في أمن الذكاء الاصطناعي: قد تكتشف مؤسسة هجومًا أو إخفاقًا أو «حادثة كادت أن تقع» بشكل منفصل، بينما تواجه شركات أخرى الخطر نفسه من دون الوصول إلى الدروس المستفادة.

تركز المسودة على أربع ممارسات مترابطة:

• جمع حوادث أمن الذكاء الاصطناعي والحوادث الوشيكة وتحليلها بسرية؛
• إخطار المؤسسات المتأثرة عندما تكون الحادثة ذات صلة مباشرة بها؛
• رصد الإخفاقات المتكررة في الضوابط والممارسات الأمنية؛
• إنتاج دروس قائمة على الأدلة ومن دون توجيه اللوم، بحيث يمكن تطبيقها على نطاق أوسع.

والهدف هو تحويل المعلومات الدفاعية إلى معرفة مشتركة. فبدل التعامل مع كل حادثة مثل حقن الأوامر أو تسريب البيانات أو خروج وكيل ذكي عن السيطرة باعتبارها واقعة منفردة، ستوفر المبادرة — إذا تطورت — مسارًا لتحويل الإخفاقات الفردية إلى إجراءات حماية يستفيد منها القطاع بأكمله.

منظومة أمنية متعددة الطبقات، لا منتج واحد

لا تمثل SAFE سوى جزء من رؤية OSAA. فالتحالف يجمع أيضًا تقنيات مفتوحة المصدر وقابلة للفحص، يستهدف كل منها طبقة مختلفة من أمن الوكلاء الذكيين.

ومن أبرز المساهمات المذكورة:

• إنفيديا: عائلات نماذج ذات أوزان مفتوحة، وضوابط وقت التشغيل OpenShell لتقييد ما يستطيع الوكيل الوصول إليه أو تنفيذه، وأدوات لاختبار سلوك الوكلاء وتدقيقه، إلى جانب Garak، وهو ماسح مفتوح المصدر لمخاطر تشمل تسريب البيانات وحقن الأوامر وكسر قيود السلامة.
• Okta: تطبيقات مرجعية لهوية الوكلاء وإدارة وصولهم، باستخدام بروتوكول Cross App Access بهدف ربط الوكلاء بتطبيقات المؤسسات ضمن بيئات أكثر ضبطًا.
• Red Hat: مشروع asago المفتوح المصدر، الهادف إلى ربط سياسات الحوكمة المؤسسية بصلاحيات الوكيل أثناء التشغيل، وإنشاء مسار قابل للتدقيق من السياسة إلى الضبط التقني.
• أمازون: مجموعة الأدوات المفتوحة المصدر Strands Agents لبناء الوكلاء وتقييمهم، إلى جانب لغة التفويض والصلاحيات Cedar.
• أعضاء آخرون: مشاريع تركز على الهوية، مثل Agent Guard وAgent Watch، بما يعكس فكرة أن تأمين الوكلاء لا يقتصر على فحص النموذج وحده.

وتغطي هذه المشاريع، مجتمعة، الهوية والصلاحيات وأطر تشغيل الوكلاء وسلوكهم أثناء التشغيل والتقييم والبيانات والحوكمة والمرونة. وقد تمنح المؤسسات مستقبلًا مجموعة مشتركة من الضوابط لتقييد الوكلاء ومراقبتهم، بما في ذلك الوكلاء الذين يتصرفون بشكل ضار أو يتجاوزون نطاقهم المقصود. لكن هذا الاحتمال لم يتحول بعد إلى نتيجة مثبتة.

من انضم إلى التحالف؟ ومن بقي خارجه؟

تصف التقارير OSAA بأنه تجاوز 120 منظمة خلال أسبوعه الأول. ومن المشاركين البارزين المذكورين: إنفيديا، وAdobe، وBlackRock، وCisco، وCrowdStrike، وHugging Face، وIntel، ومايكروسوفت، وRed Hat، وVisa. كما وُصفت أمازون بأنها عضو أحدث انضمامًا.

جاء تأسيس التحالف بعد رسالة مفتوحة في 24 يوليو/تموز دعت صانعي السياسات الأميركيين إلى تجنب القيود الواسعة أو المبكرة على نماذج الذكاء الاصطناعي ذات الأوزان المفتوحة. وكانت الرسالة مدعومة في البداية من 25 شركة، بينها إنفيديا ومايكروسوفت وMeta وIBM وDell وPalantir وHugging Face. وحذرت من أن تقييد النماذج القابلة للتنزيل قد يضر بالمنافسة ويدفع مزيدًا من المستخدمين نحو أنظمة الذكاء الاصطناعي الصينية، في وقت كانت فيه واشنطن تدرس استجابتها المتعلقة بالأمن القومي.

وفي وقت تغطية أخبار Black Hat، كانت Anthropic وOpenAI وGoogle من أبرز الشركات الغائبة عن OSAA. إلا أن الصلة بين ذلك التحالف والرسالة السياسية ليست محسومة تمامًا؛ إذ تختلف التقارير بشأن قائمة الموقعين اللاحقة. فبعضها قال إن OpenAI وGoogle أضيفتا لاحقًا، بينما وصفتهما تقارير أخرى بأنهما لم تكونا ضمن المجموعة الأصلية. ولا توضح المصادر المتاحة سبب عدم انضمام تلك الشركات إلى OSAA، لذلك لا يمكن إسناد دافع محدد إلى غيابها.

لماذا تهم سرعة التحرك؟

تقوم الفكرة المركزية للتحالف على أن الانفتاح والأمن ليسا بالضرورة نقيضين. فالنماذج والأدوات والتقييمات المفتوحة، إلى جانب مشاركة الدروس المستفادة من الحوادث، قد تمنح عددًا أكبر من المدافعين القدرة على فحص الإخفاقات وإعادة إنتاج الثغرات وتكييف الإصلاحات. وتحاول SAFE الموازنة بين هذه الشفافية والحاجة إلى السرية أثناء جمع الحوادث وتحليلها، مع نشر دروس عامة لا تكشف المعلومات الحساسة.

كما قد يساعد الطابع العابر للقطاعات في OSAA على بناء واجهات وممارسات مشتركة بين مطوري النماذج ومزودي السحابة والبنية التحتية ومتخصصي الهوية وشركات الأمن والمستخدمين من المؤسسات. وإذا نضجت هذه الجهود، فقد تصبح أنظمة الذكاء الاصطناعي المفتوحة أسهل في التقييم والضبط والنشر المسؤول.

وقد يدعم ذلك الحجة السياسية الأوسع التي ترى في الذكاء الاصطناعي ذي الأوزان المفتوحة قضية مرتبطة بالتنافسية الأميركية، خصوصًا مع استمرار نقاش صانعي السياسات في الولايات المتحدة حول كيفية التعامل مع مختبرات الذكاء الاصطناعي الصينية. لكن OSAA لم يثبت حتى الآن أنه عزز التنافسية الأميركية أو خفّض المخاطر النظامية للذكاء الاصطناعي.

وما يمكن قياسه حاليًا أضيق وأكثر تحديدًا: ائتلاف يضم أكثر من 120 منظمة انتقل خلال فترة قصيرة من الدفاع السياسي عن الذكاء الاصطناعي المفتوح إلى طرح مسودة عامة لتنسيق الإبلاغ عن حوادث أمن الذكاء الاصطناعي، بالتوازي مع مساهمات بأدوات قد تشكل بمرور الوقت طبقة دفاعية أكثر توافقًا بين الأنظمة.

ما الذي تريد SAFE تنظيمه؟

تعالج المبادرة مشكلة متكررة في أمن الذكاء الاصطناعي: قد تكتشف مؤسسة هجومًا أو إخفاقًا أو «حادثة كادت أن تقع» بشكل منفصل، بينما تواجه شركات أخرى الخطر نفسه من دون الوصول إلى الدروس المستفادة.

تركز المسودة على أربع ممارسات مترابطة:

• جمع حوادث أمن الذكاء الاصطناعي والحوادث الوشيكة وتحليلها بسرية؛
• إخطار المؤسسات المتأثرة عندما تكون الحادثة ذات صلة مباشرة بها؛
• رصد الإخفاقات المتكررة في الضوابط والممارسات الأمنية؛
• إنتاج دروس قائمة على الأدلة ومن دون توجيه اللوم، بحيث يمكن تطبيقها على نطاق أوسع.

والهدف هو تحويل المعلومات الدفاعية إلى معرفة مشتركة. فبدل التعامل مع كل حادثة مثل حقن الأوامر أو تسريب البيانات أو خروج وكيل ذكي عن السيطرة باعتبارها واقعة منفردة، ستوفر المبادرة — إذا تطورت — مسارًا لتحويل الإخفاقات الفردية إلى إجراءات حماية يستفيد منها القطاع بأكمله.

منظومة أمنية متعددة الطبقات، لا منتج واحد

لا تمثل SAFE سوى جزء من رؤية OSAA. فالتحالف يجمع أيضًا تقنيات مفتوحة المصدر وقابلة للفحص، يستهدف كل منها طبقة مختلفة من أمن الوكلاء الذكيين.

ومن أبرز المساهمات المذكورة:

• إنفيديا: عائلات نماذج ذات أوزان مفتوحة، وضوابط وقت التشغيل OpenShell لتقييد ما يستطيع الوكيل الوصول إليه أو تنفيذه، وأدوات لاختبار سلوك الوكلاء وتدقيقه، إلى جانب Garak، وهو ماسح مفتوح المصدر لمخاطر تشمل تسريب البيانات وحقن الأوامر وكسر قيود السلامة.
• Okta: تطبيقات مرجعية لهوية الوكلاء وإدارة وصولهم، باستخدام بروتوكول Cross App Access بهدف ربط الوكلاء بتطبيقات المؤسسات ضمن بيئات أكثر ضبطًا.
• Red Hat: مشروع asago المفتوح المصدر، الهادف إلى ربط سياسات الحوكمة المؤسسية بصلاحيات الوكيل أثناء التشغيل، وإنشاء مسار قابل للتدقيق من السياسة إلى الضبط التقني.
• أمازون: مجموعة الأدوات المفتوحة المصدر Strands Agents لبناء الوكلاء وتقييمهم، إلى جانب لغة التفويض والصلاحيات Cedar.
• أعضاء آخرون: مشاريع تركز على الهوية، مثل Agent Guard وAgent Watch، بما يعكس فكرة أن تأمين الوكلاء لا يقتصر على فحص النموذج وحده.

وتغطي هذه المشاريع، مجتمعة، الهوية والصلاحيات وأطر تشغيل الوكلاء وسلوكهم أثناء التشغيل والتقييم والبيانات والحوكمة والمرونة. وقد تمنح المؤسسات مستقبلًا مجموعة مشتركة من الضوابط لتقييد الوكلاء ومراقبتهم، بما في ذلك الوكلاء الذين يتصرفون بشكل ضار أو يتجاوزون نطاقهم المقصود. لكن هذا الاحتمال لم يتحول بعد إلى نتيجة مثبتة.

من انضم إلى التحالف؟ ومن بقي خارجه؟

تصف التقارير OSAA بأنه تجاوز 120 منظمة خلال أسبوعه الأول. ومن المشاركين البارزين المذكورين: إنفيديا، وAdobe، وBlackRock، وCisco، وCrowdStrike، وHugging Face، وIntel، ومايكروسوفت، وRed Hat، وVisa. كما وُصفت أمازون بأنها عضو أحدث انضمامًا.

جاء تأسيس التحالف بعد رسالة مفتوحة في 24 يوليو/تموز دعت صانعي السياسات الأميركيين إلى تجنب القيود الواسعة أو المبكرة على نماذج الذكاء الاصطناعي ذات الأوزان المفتوحة. وكانت الرسالة مدعومة في البداية من 25 شركة، بينها إنفيديا ومايكروسوفت وMeta وIBM وDell وPalantir وHugging Face. وحذرت من أن تقييد النماذج القابلة للتنزيل قد يضر بالمنافسة ويدفع مزيدًا من المستخدمين نحو أنظمة الذكاء الاصطناعي الصينية، في وقت كانت فيه واشنطن تدرس استجابتها المتعلقة بالأمن القومي.

وفي وقت تغطية أخبار Black Hat، كانت Anthropic وOpenAI وGoogle من أبرز الشركات الغائبة عن OSAA. إلا أن الصلة بين ذلك التحالف والرسالة السياسية ليست محسومة تمامًا؛ إذ تختلف التقارير بشأن قائمة الموقعين اللاحقة. فبعضها قال إن OpenAI وGoogle أضيفتا لاحقًا، بينما وصفتهما تقارير أخرى بأنهما لم تكونا ضمن المجموعة الأصلية. ولا توضح المصادر المتاحة سبب عدم انضمام تلك الشركات إلى OSAA، لذلك لا يمكن إسناد دافع محدد إلى غيابها.

لماذا تهم سرعة التحرك؟

تقوم الفكرة المركزية للتحالف على أن الانفتاح والأمن ليسا بالضرورة نقيضين. فالنماذج والأدوات والتقييمات المفتوحة، إلى جانب مشاركة الدروس المستفادة من الحوادث، قد تمنح عددًا أكبر من المدافعين القدرة على فحص الإخفاقات وإعادة إنتاج الثغرات وتكييف الإصلاحات. وتحاول SAFE الموازنة بين هذه الشفافية والحاجة إلى السرية أثناء جمع الحوادث وتحليلها، مع نشر دروس عامة لا تكشف المعلومات الحساسة.

كما قد يساعد الطابع العابر للقطاعات في OSAA على بناء واجهات وممارسات مشتركة بين مطوري النماذج ومزودي السحابة والبنية التحتية ومتخصصي الهوية وشركات الأمن والمستخدمين من المؤسسات. وإذا نضجت هذه الجهود، فقد تصبح أنظمة الذكاء الاصطناعي المفتوحة أسهل في التقييم والضبط والنشر المسؤول.

وقد يدعم ذلك الحجة السياسية الأوسع التي ترى في الذكاء الاصطناعي ذي الأوزان المفتوحة قضية مرتبطة بالتنافسية الأميركية، خصوصًا مع استمرار نقاش صانعي السياسات في الولايات المتحدة حول كيفية التعامل مع مختبرات الذكاء الاصطناعي الصينية. لكن OSAA لم يثبت حتى الآن أنه عزز التنافسية الأميركية أو خفّض المخاطر النظامية للذكاء الاصطناعي.

وما يمكن قياسه حاليًا أضيق وأكثر تحديدًا: ائتلاف يضم أكثر من 120 منظمة انتقل خلال فترة قصيرة من الدفاع السياسي عن الذكاء الاصطناعي المفتوح إلى طرح مسودة عامة لتنسيق الإبلاغ عن حوادث أمن الذكاء الاصطناعي، بالتوازي مع مساهمات بأدوات قد تشكل بمرور الوقت طبقة دفاعية أكثر توافقًا بين الأنظمة.