الخلاصة السريعة: إذا لم تعرف الإجابة، لا ترفع النص الأصلي

القاعدة الأكثر أماناً: لا تضع البيانات الشخصية القابلة لتحديد الهوية، أو أسرار العمل، أو الوثائق الحكومية غير المنشورة في أداة ذكاء اصطناعي عامة غير معتمدة. حتى لو كان الهدف بسيطاً مثل التلخيص أو الترجمة أو إعادة الصياغة أو تصحيح خطأ برمجي، فإن إدخال محتوى يكشف أشخاصاً، أو عملاء، أو قرارات داخلية، أو بيانات دخول، أو معلومات محمية يجب أن يتم بعد تقليل البيانات أو إخفاء الحقول الحساسة أو عبر بيئة معتمدة ومسيطر عليها.

المعيار ليس شهرة الأداة ولا قوة النموذج، بل أربعة أشياء: هل البيانات حساسة؟ كيف ستُحفظ وتُستخدم؟ هل تسمح جهتك بهذا الاستخدام؟ وهل يمكن تتبع الحادث ومعالجته إذا حدث تسرب أو استخدام خاطئ؟ إذا لم تكن هذه الشروط واضحة، فلا ترفع النسخة الأصلية.

كيف تميز بين البيانات الشخصية والأسرار والوثائق الحكومية؟

خمسة أسئلة قبل أن تضغط زر الرفع

إذا لم تستطع الإجابة عن سؤال واحد من هذه الأسئلة، توقف ولا ترفع النص الأصلي إلى أداة عامة غير معتمدة.

1. هل يحتوي الملف على بيانات شخصية أو معلومات حساسة؟ إذا كان يمكن ربط المحتوى بشخص أو عميل أو موظف أو صاحب ملف، فلا تضعه كما هو. وثيقة EDPB مخصصة لمخاطر الخصوصية في أنظمة LLM وطرق التخفيف منها.
2. هل تحتفظ الخدمة بالمدخلات أو المخرجات؟ وكم مدة الاحتفاظ؟ الاحتفاظ بالبيانات بند صريح في إطار NIST لمخاطر الذكاء الاصطناعي التوليدي.
3. هل يمكن استخدام البيانات تجارياً أو لإعادة المعالجة أو تحسين الخدمة؟ وهل توجد آلية انسحاب؟ يدرج NIST الاستخدام التجاري، وحماية البيانات، والاحتفاظ بها، وخيارات الانسحاب ضمن عناصر الحوكمة.
4. من المسموح له باستخدام الأداة؟ وهل يمكن تتبع الاستخدام؟ يشير NIST إلى مؤهلات الفاعلين في الذكاء الاصطناعي، والحد من الاستخدام المجهول، والمراقبة؛ عملياً يعني ذلك أن تعرف المؤسسة من استخدم الأداة، ولماذا، وبأي نوع من البيانات.
5. هل توجد مراجعة أثر، واستجابة للحوادث، وضوابط مبنية على المخاطر؟ هذه أيضاً من العناصر التي يدرجها NIST ضمن إدارة مخاطر الذكاء الاصطناعي التوليدي.

لا تعتبر عبارة مثل «من فضلك حافظ على السرية» داخل الطلب إجراءً أمنياً. الإجراء الحقيقي هو أن تعرف كيف تُحفظ البيانات، ومن يستطيع الوصول إليها، وهل يمكن منع إعادة استخدامها، ومن يتصرف عند وقوع حادث، وهل تسمح جهتك أصلاً بهذا الاستخدام.

قائمة ألوان سريعة: ما الذي يمكن رفعه وما الذي يجب تجنبه؟

هذه القائمة تحول مبادئ حماية البيانات والاحتفاظ بها والحوكمة القائمة على المخاطر إلى قرارات يومية. لكنها ليست رأياً قانونياً؛ يجب أن تعود دائماً إلى سياسات أمن المعلومات، والشؤون القانونية، وحماية البيانات، وإدارة الوثائق في جهتك.

أخضر: يمكن التفكير في استخدامه، مع مراجعة الشروط

• مواد منشورة، منخفضة الحساسية، وتملك حق استخدامها.
• محتوى أزيلت منه الهوية، أو حُذفت منه الحقول الحساسة، أو صيغ كملخص لا يسمح منطقياً بتحديد شخص أو عميل أو قضية أو سر داخلي.
• وصف مختصر للمشكلة يتضمن الحد الأدنى من السياق، بدلاً من رفع عقد كامل أو مراسلة رسمية كاملة أو جدول عملاء أو مستودع شيفرة كامل.

لكن «منشور» لا يعني «بلا مخاطر». إذا احتوى المحتوى العام على بيانات شخصية أو معلومات حساسة، فيجب التعامل معه وفق قواعد الخصوصية وحماية البيانات.

أصفر: أعد الصياغة أو احجب التفاصيل أو اتبع مسار الموافقة

• ملفات تحتوي معلومات عن عملاء أو موظفين أو موردين أو أطراف قضايا أو مواطنين.
• مسودات عقود، بيانات مالية، عروض داخلية، محاضر اجتماعات، آراء قانونية، أو مسودات سياسات.
• شيفرة مصدرية، وثائق تقنية، أو مخططات بنية النظام، خصوصاً إذا قد تتضمن مفاتيح، أو اعتمادات دخول، أو معلومات عن ثغرات؛ يدرج NIST ممارسات تطوير البرمجيات الآمنة والضوابط القائمة على المخاطر ضمن حوكمة الذكاء الاصطناعي التوليدي.
• وثائق داخلية في الجهات الحكومية، مراسلات غير منشورة، مذكرات اعتماد، مواد تقييم، أو ملفات تعاون بين جهات؛ استخدام الذكاء الاصطناعي التوليدي في القطاع العام يظل مرتبطاً بتجنب البيانات الشخصية أو الحساسة.

هذه المواد ليست ممنوعة من الذكاء الاصطناعي في كل الأحوال، لكنها لا تصلح لأداة عامة غير معتمدة إذا لم توجد موافقة، وقواعد احتفاظ، ومراقبة، وخطة استجابة للحوادث.

أحمر: لا ترفعها إلى أداة عامة غير معتمدة

• بيانات يحظر القانون أو اللوائح الداخلية خروجها من الجهة.
• وثائق مصنّفة أو عالية الحساسية، أو مواد تتعلق بالأمن الوطني، أو إنفاذ القانون، أو التحقيقات، أو تقييم المشتريات والمناقصات.
• كلمات مرور، مفاتيح API، مفاتيح خاصة، شهادات رقمية، رموز وصول، أو أي معلومة قد تسمح بالدخول إلى نظام.
• بيانات لا تستطيع التحقق من مصدرها، أو ترخيصها، أو شروط الاحتفاظ بها، أو حذفها، أو إعادة استخدامها.

إزالة التعريف ليست حذف الاسم فقط

حذف الاسم لا يكفي دائماً. رقم الهوية، الهاتف، البريد الإلكتروني، العنوان، رقم الحساب، رقم القضية، المسمى الوظيفي النادر، أو اجتماع التاريخ والمكان قد يكشف الشخص أو الملف المقصود. لذلك يبقى خطر الخصوصية قائماً حتى بعد إزالة بعض الحقول الظاهرة. تركيز EDPB على مخاطر الخصوصية في أنظمة LLM يعني أن الإخفاء يجب أن يشمل المعلومات القابلة للربط والاستنتاج، لا الاسم وحده.

النهج الأكثر أماناً هو: استبدل الأسماء الحقيقية بأدوار عامة، واحذف أسماء الشركات أو العملاء عند عدم الحاجة، واستخدم مقتطفات محدودة لا الملف كاملاً، وحوّل الواقعة إلى حالة مجردة، واجمع الجداول في مؤشرات عامة قبل إدخالها. وإذا كانت المهمة لا تنجح إلا بالنص الأصلي، فاستخدم أداة معتمدة ومساراً خاضعاً للرقابة داخل الجهة.

الوثائق الحكومية: ليس كل ما هو رسمي صالحاً للرفع

استخدام الذكاء الاصطناعي التوليدي في القطاع العام ليس سؤالاً بإجابة واحدة: منع كامل أو سماح كامل. تقرير JRC عن الذكاء الاصطناعي التوليدي يتناول تطبيقاته في القطاع العام كموضوع مستقل، كما تذكر مادة للبرلمان الأوروبي مثالاً يستخدم بيانات رسمية من البوندستاغ مع تجنب المعلومات الشخصية أو الحساسة.

هذا يعني أن البيانات الرسمية المنشورة والمنخفضة الحساسية قد تكون أقرب إلى الاستخدام الآمن، بشرط التحقق من شروط الاستخدام. أما المراسلات غير المنشورة، والمذكرات الداخلية، ومسودات السياسات، ومواد التحقيق، وملفات الإنفاذ، ومواد تقييم المشتريات، وأي وثيقة تتضمن بيانات شخصية أو حساسة، فلا ينبغي إدخالها كما هي في أداة عامة غير معتمدة.

قاعدة القرار الأبسط

إذا كان تسرب الملف قد يضر شخصاً، أو مؤسسة، أو مصلحة عامة، أو التزاماً قانونياً، فلا ترفع النص الأصلي إلى أداة ذكاء اصطناعي عامة. ابدأ بالتقليل، والحجب، والتلخيص، وإزالة التعريف. وإذا كانت المهمة تتطلب النص الكامل فعلاً، فاذهب إلى أداة معتمدة وبيئة مسيطر عليها، وتحقق من حماية البيانات، وسياسات الاحتفاظ، وصلاحيات الوصول، والمراقبة، والاستجابة للحوادث.

الخلاصة السريعة: إذا لم تعرف الإجابة، لا ترفع النص الأصلي

القاعدة الأكثر أماناً: لا تضع البيانات الشخصية القابلة لتحديد الهوية، أو أسرار العمل، أو الوثائق الحكومية غير المنشورة في أداة ذكاء اصطناعي عامة غير معتمدة. حتى لو كان الهدف بسيطاً مثل التلخيص أو الترجمة أو إعادة الصياغة أو تصحيح خطأ برمجي، فإن إدخال محتوى يكشف أشخاصاً، أو عملاء، أو قرارات داخلية، أو بيانات دخول، أو معلومات محمية يجب أن يتم بعد تقليل البيانات أو إخفاء الحقول الحساسة أو عبر بيئة معتمدة ومسيطر عليها.

المعيار ليس شهرة الأداة ولا قوة النموذج، بل أربعة أشياء: هل البيانات حساسة؟ كيف ستُحفظ وتُستخدم؟ هل تسمح جهتك بهذا الاستخدام؟ وهل يمكن تتبع الحادث ومعالجته إذا حدث تسرب أو استخدام خاطئ؟ إذا لم تكن هذه الشروط واضحة، فلا ترفع النسخة الأصلية.

كيف تميز بين البيانات الشخصية والأسرار والوثائق الحكومية؟

خمسة أسئلة قبل أن تضغط زر الرفع

إذا لم تستطع الإجابة عن سؤال واحد من هذه الأسئلة، توقف ولا ترفع النص الأصلي إلى أداة عامة غير معتمدة.

1. هل يحتوي الملف على بيانات شخصية أو معلومات حساسة؟ إذا كان يمكن ربط المحتوى بشخص أو عميل أو موظف أو صاحب ملف، فلا تضعه كما هو. وثيقة EDPB مخصصة لمخاطر الخصوصية في أنظمة LLM وطرق التخفيف منها.
2. هل تحتفظ الخدمة بالمدخلات أو المخرجات؟ وكم مدة الاحتفاظ؟ الاحتفاظ بالبيانات بند صريح في إطار NIST لمخاطر الذكاء الاصطناعي التوليدي.
3. هل يمكن استخدام البيانات تجارياً أو لإعادة المعالجة أو تحسين الخدمة؟ وهل توجد آلية انسحاب؟ يدرج NIST الاستخدام التجاري، وحماية البيانات، والاحتفاظ بها، وخيارات الانسحاب ضمن عناصر الحوكمة.
4. من المسموح له باستخدام الأداة؟ وهل يمكن تتبع الاستخدام؟ يشير NIST إلى مؤهلات الفاعلين في الذكاء الاصطناعي، والحد من الاستخدام المجهول، والمراقبة؛ عملياً يعني ذلك أن تعرف المؤسسة من استخدم الأداة، ولماذا، وبأي نوع من البيانات.
5. هل توجد مراجعة أثر، واستجابة للحوادث، وضوابط مبنية على المخاطر؟ هذه أيضاً من العناصر التي يدرجها NIST ضمن إدارة مخاطر الذكاء الاصطناعي التوليدي.

لا تعتبر عبارة مثل «من فضلك حافظ على السرية» داخل الطلب إجراءً أمنياً. الإجراء الحقيقي هو أن تعرف كيف تُحفظ البيانات، ومن يستطيع الوصول إليها، وهل يمكن منع إعادة استخدامها، ومن يتصرف عند وقوع حادث، وهل تسمح جهتك أصلاً بهذا الاستخدام.

قائمة ألوان سريعة: ما الذي يمكن رفعه وما الذي يجب تجنبه؟

هذه القائمة تحول مبادئ حماية البيانات والاحتفاظ بها والحوكمة القائمة على المخاطر إلى قرارات يومية. لكنها ليست رأياً قانونياً؛ يجب أن تعود دائماً إلى سياسات أمن المعلومات، والشؤون القانونية، وحماية البيانات، وإدارة الوثائق في جهتك.

أخضر: يمكن التفكير في استخدامه، مع مراجعة الشروط

• مواد منشورة، منخفضة الحساسية، وتملك حق استخدامها.
• محتوى أزيلت منه الهوية، أو حُذفت منه الحقول الحساسة، أو صيغ كملخص لا يسمح منطقياً بتحديد شخص أو عميل أو قضية أو سر داخلي.
• وصف مختصر للمشكلة يتضمن الحد الأدنى من السياق، بدلاً من رفع عقد كامل أو مراسلة رسمية كاملة أو جدول عملاء أو مستودع شيفرة كامل.

لكن «منشور» لا يعني «بلا مخاطر». إذا احتوى المحتوى العام على بيانات شخصية أو معلومات حساسة، فيجب التعامل معه وفق قواعد الخصوصية وحماية البيانات.

أصفر: أعد الصياغة أو احجب التفاصيل أو اتبع مسار الموافقة

• ملفات تحتوي معلومات عن عملاء أو موظفين أو موردين أو أطراف قضايا أو مواطنين.
• مسودات عقود، بيانات مالية، عروض داخلية، محاضر اجتماعات، آراء قانونية، أو مسودات سياسات.
• شيفرة مصدرية، وثائق تقنية، أو مخططات بنية النظام، خصوصاً إذا قد تتضمن مفاتيح، أو اعتمادات دخول، أو معلومات عن ثغرات؛ يدرج NIST ممارسات تطوير البرمجيات الآمنة والضوابط القائمة على المخاطر ضمن حوكمة الذكاء الاصطناعي التوليدي.
• وثائق داخلية في الجهات الحكومية، مراسلات غير منشورة، مذكرات اعتماد، مواد تقييم، أو ملفات تعاون بين جهات؛ استخدام الذكاء الاصطناعي التوليدي في القطاع العام يظل مرتبطاً بتجنب البيانات الشخصية أو الحساسة.

هذه المواد ليست ممنوعة من الذكاء الاصطناعي في كل الأحوال، لكنها لا تصلح لأداة عامة غير معتمدة إذا لم توجد موافقة، وقواعد احتفاظ، ومراقبة، وخطة استجابة للحوادث.

أحمر: لا ترفعها إلى أداة عامة غير معتمدة

• بيانات يحظر القانون أو اللوائح الداخلية خروجها من الجهة.
• وثائق مصنّفة أو عالية الحساسية، أو مواد تتعلق بالأمن الوطني، أو إنفاذ القانون، أو التحقيقات، أو تقييم المشتريات والمناقصات.
• كلمات مرور، مفاتيح API، مفاتيح خاصة، شهادات رقمية، رموز وصول، أو أي معلومة قد تسمح بالدخول إلى نظام.
• بيانات لا تستطيع التحقق من مصدرها، أو ترخيصها، أو شروط الاحتفاظ بها، أو حذفها، أو إعادة استخدامها.

إزالة التعريف ليست حذف الاسم فقط

حذف الاسم لا يكفي دائماً. رقم الهوية، الهاتف، البريد الإلكتروني، العنوان، رقم الحساب، رقم القضية، المسمى الوظيفي النادر، أو اجتماع التاريخ والمكان قد يكشف الشخص أو الملف المقصود. لذلك يبقى خطر الخصوصية قائماً حتى بعد إزالة بعض الحقول الظاهرة. تركيز EDPB على مخاطر الخصوصية في أنظمة LLM يعني أن الإخفاء يجب أن يشمل المعلومات القابلة للربط والاستنتاج، لا الاسم وحده.

النهج الأكثر أماناً هو: استبدل الأسماء الحقيقية بأدوار عامة، واحذف أسماء الشركات أو العملاء عند عدم الحاجة، واستخدم مقتطفات محدودة لا الملف كاملاً، وحوّل الواقعة إلى حالة مجردة، واجمع الجداول في مؤشرات عامة قبل إدخالها. وإذا كانت المهمة لا تنجح إلا بالنص الأصلي، فاستخدم أداة معتمدة ومساراً خاضعاً للرقابة داخل الجهة.

الوثائق الحكومية: ليس كل ما هو رسمي صالحاً للرفع

استخدام الذكاء الاصطناعي التوليدي في القطاع العام ليس سؤالاً بإجابة واحدة: منع كامل أو سماح كامل. تقرير JRC عن الذكاء الاصطناعي التوليدي يتناول تطبيقاته في القطاع العام كموضوع مستقل، كما تذكر مادة للبرلمان الأوروبي مثالاً يستخدم بيانات رسمية من البوندستاغ مع تجنب المعلومات الشخصية أو الحساسة.

هذا يعني أن البيانات الرسمية المنشورة والمنخفضة الحساسية قد تكون أقرب إلى الاستخدام الآمن، بشرط التحقق من شروط الاستخدام. أما المراسلات غير المنشورة، والمذكرات الداخلية، ومسودات السياسات، ومواد التحقيق، وملفات الإنفاذ، ومواد تقييم المشتريات، وأي وثيقة تتضمن بيانات شخصية أو حساسة، فلا ينبغي إدخالها كما هي في أداة عامة غير معتمدة.

قاعدة القرار الأبسط

إذا كان تسرب الملف قد يضر شخصاً، أو مؤسسة، أو مصلحة عامة، أو التزاماً قانونياً، فلا ترفع النص الأصلي إلى أداة ذكاء اصطناعي عامة. ابدأ بالتقليل، والحجب، والتلخيص، وإزالة التعريف. وإذا كانت المهمة تتطلب النص الكامل فعلاً، فاذهب إلى أداة معتمدة وبيئة مسيطر عليها، وتحقق من حماية البيانات، وسياسات الاحتفاظ، وصلاحيات الوصول، والمراقبة، والاستجابة للحوادث.