لكن هذه المراحل ليست جزرًا منفصلة. فقد يجمع المنتج الواحد بين نموذج تنبؤي لتصنيف طلب المستخدم، ونموذج توليدي لصياغة الرد، وبرمجيات تقليدية تقرر ما إذا كان تنفيذ الإجراء مسموحًا.

أولًا: الذكاء الاصطناعي التقليدي — القواعد والتصنيف والتنبؤ

يشمل الذكاء الاصطناعي التقليدي اتجاهين رئيسيين:

• الأنظمة الرمزية أو القائمة على القواعد: يحدد البشر فيها المنطق والمعرفة المتخصصة وإجراءات اتخاذ القرار.
• أنظمة التعلم الآلي: تتعلم العلاقات الإحصائية من البيانات التاريخية لتصنيف المدخلات أو تقدير النتائج.

أظهرت برامج لعب الألعاب المبكرة كيف يمكن للآلات البحث في عدد كبير من النقلات المحتملة ضمن بيئة محددة. ولاحقًا استُخدمت أفكار مشابهة، إلى جانب التعلم الإحصائي، في مهام عملية مثل:

• اكتشاف المعاملات غير المعتادة أو الشبيهة بالاحتيال؛
• تقييم مخاطر الائتمان والتعثر؛
• تقدير مخاطر صحية، مثل تدهور حالة المريض أو إعادة إدخاله إلى المستشفى؛
• ترتيب المنتجات ومقاطع الفيديو والموسيقى والمنشورات في محركات التوصية؛
• الجمع بين التعرف على الكلام، وتصنيف النوايا، ومسارات العمل المحددة مسبقًا في مساعدات صوتية مثل Siri.

تكون هذه الأنظمة قوية غالبًا عندما تكون المهمة ضيقة النطاق، ومتكررة، وقابلة للقياس. فهي تعالج كميات كبيرة من الحالات بسرعة وتنتج مخرجات متسقة. كما قد تكون الأنظمة القائمة على القواعد أسهل في الفحص من النماذج المعقدة، لأن منطقها يكون ظاهرًا ومحددًا.

حدود التنبؤ

لا يفهم الذكاء الاصطناعي التقليدي تلقائيًا سبب حدوث النتيجة. فقد يكتشف النموذج علاقة إحصائية من دون إثبات السببية، كما يمكن للنظام المدرّب على بيانات تاريخية متحيزة أن يعيد إنتاج التحيز أو يفاقمه. وقد تصبح القواعد هشة خارج الظروف التي صُممت لها، في حين يصعب أحيانًا تفسير النماذج التنبؤية المعقدة.

وقد يتراجع الأداء عندما يتغير الواقع، وهي مشكلة تُعرف عادةً باسم انجراف البيانات. لذلك تتطلب الاستخدامات عالية التأثير، مثل الإقراض والتوظيف والتأمين والشرطة والرعاية الصحية، فحص جودة البيانات، واختبارات التحيز، وتفسيرات مناسبة للقرار، ومراجعة بشرية، ومراقبة مستمرة، وطرقًا للاعتراض.

ثانيًا: الذكاء الاصطناعي التوليدي — إنشاء محتوى جديد

يتعلم الذكاء الاصطناعي التوليدي الأنماط من مجموعات ضخمة من النصوص أو الصور أو الصوت أو الفيديو أو الشيفرات البرمجية، ثم يستخدمها لإنتاج مخرجات جديدة. وتولّد نماذج اللغة الكبيرة النص بصورة متسلسلة، بينما تستطيع الأنظمة متعددة الوسائط التعامل مع أكثر من صيغة.

غيّر ذلك تجربة استخدام الذكاء الاصطناعي. فبدل اختيار أمر من قائمة ثابتة أو تلقي درجة تصنيف، يستطيع المستخدم وصف هدفه بلغة عادية وطلب صياغة مادة أو تحويلها أو شرحها.

أين يُستخدم الذكاء الاصطناعي التوليدي؟

• خدمة العملاء: صياغة الردود، وتلخيص المحادثات، وترجمة المواد، واسترجاع المعلومات من قواعد المعرفة.
• العمل القانوني: تلخيص الوثائق، واستخراج البنود، ومقارنة السوابق والمراجع، وإعداد المسودات الأولى. ويظل على المتخصصين التحقق من المصادر الأولية والادعاءات القانونية.
• التعليم: شرح المفاهيم، وإنشاء أسئلة تدريبية، وتقديم الملاحظات.
• العمل الإبداعي: العصف الذهني، وكتابة النصوص، وتوليد الصور والموسيقى وأفكار الفيديو والشيفرات البرمجية.
• البرمجة: شرح الشيفرة، وكتابة الاختبارات، واقتراح الإصلاحات، وتسريع الأعمال التطويرية الروتينية.

وتتمثل أبرز المزايا في السرعة، وخفض تكلفة إعداد المسودات، والتفاعل باللغة الطبيعية، وإنتاج نسخ متعددة ومخصصة. لكن القدرة على إنتاج إجابة تبدو مقنعة لا تساوي امتلاك حكم خبير موثوق.

المخاطر الرئيسية

الهلوسة والثقة الزائدة. قد تنتج نماذج اللغة الكبيرة معلومات مختلقة أو غير دقيقة أو متحيزة أو مبسطة أكثر من اللازم، وبنبرة واثقة. وتشير أبحاث التحقق والتقييم إلى أن الهلوسة والمحتوى الضار والتلاعب وانتهاك حقوق النشر والخصوصية والأمن تتطلب اختبارات ومراقبة مستمرة.

التعلم والنزاهة الأكاديمية. أظهرت تجربة ميدانية واسعة في المدارس أن التدريس المدعوم بالذكاء الاصطناعي حسّن أداء الطلاب أثناء إتاحة الأداة، لكن الطلاب الذين اعتمدوا عليها من دون ضوابط مناسبة قدّموا أداءً أسوأ بعد إزالة الوصول إليها، بما يشير إلى تراجع اكتساب المهارات. وكانت التلميحات التي صممها المعلمون أكثر حماية من تقديم الإجابات مباشرة. كما قد تسهّل الأدوات التوليدية الانتحال أو تجعل من الصعب معرفة ما إذا كان الطالب قد أتقن العمل فعلًا.

حقوق النشر ومصدر المحتوى. لا تزال قضايا مصدر بيانات التدريب، ومحاكاة الأساليب، والمخرجات التي تعيد إنتاج مواد محمية موضع نقاش. وتعد الإرشادات التعليمية انتهاك الملكية الفكرية خطرًا مهمًا إلى جانب المحتوى غير الدقيق أو المتحيز أو غير الآمن.

المحتوى الضار والتلاعب. يمكن للأنظمة التوليدية إنتاج معلومات مضللة، ومضايقات، ومواد جنسية أو عنيفة، وتعليمات خطرة. لذلك توصي إرشادات السلامة بالاختبار، ووسائل الحماية، وتسجيل النشاط، والمراقبة، بدل افتراض أن النموذج سيلتزم دائمًا بالسلوك المقصود.

سلامة الشباب ورفاههم. تشير أبحاث مخاطر الذكاء الاصطناعي التوليدي على صغار السن إلى مخاوف تتعلق بالصحة النفسية، والتطور السلوكي والاجتماعي، والسمية، والخصوصية، وإساءة الاستخدام أو الاستغلال. وتصبح هذه المخاطر أكثر خطورة عندما يتعامل المستخدم مع روبوت المحادثة بوصفه بديلًا موثوقًا عن الدعم البشري المؤهل.

الخصوصية والسرية. قد تتضمن المطالبات بيانات شخصية، أو أسرارًا تجارية، أو مواد تخص العملاء، أو معلومات مشمولة بالسرية القانونية. وتحتاج المؤسسات إلى قواعد واضحة تحدد البيانات التي يمكن إدخالها في كل خدمة، كما ينبغي للمستخدمين اعتبار الأنظمة غير المعتمدة غير مناسبة للمعلومات الحساسة.

ضوابط عملية للذكاء الاصطناعي التوليدي

من القواعد الأساسية التعامل مع مخرجات النموذج على أنها مسودة لا دليل. وينبغي التحقق من الادعاءات المهمة بالرجوع إلى مصادر موثوقة، مع فرض مراجعة بشرية في القرارات الطبية والقانونية والمالية وقرارات التوظيف والقرارات المرتبطة بالسلامة.

ومن الضوابط المفيدة: ربط الإجابات بمصادر معتمدة، وإضافة الإحالات، واختبارات الفرق الحمراء، ووسائل حماية المحتوى، وتصميم ملائم للعمر، وسجلات تدقيق، وإبلاغ المستخدم عند استخدام الذكاء الاصطناعي، وسياسات تخص التعامل مع البيانات والاستخدام الأكاديمي ومصدر المحتوى وحقوق الملكية الفكرية. كما تسلط الإرشادات الحكومية الضوء على المحتوى غير الدقيق أو المتحيز، وانتهاكات الخصوصية، وانتهاك الملكية الفكرية، وتحديات النزاهة الأكاديمية.

ثالثًا: الذكاء الاصطناعي الوكيلي — أنظمة تستطيع الفعل

يضيف الذكاء الاصطناعي الوكيلي طبقة تنفيذ. إذ يستطيع الوكيل تفسير الهدف، وتقسيمه إلى خطوات، واستدعاء أدوات مثل متصفحات الإنترنت، ومستودعات الشيفرات، وقواعد البيانات، وأنظمة المراسلة، وفحص النتائج المرحلية، ثم مواصلة العمل ضمن الصلاحيات الممنوحة له.

وهذا ما يميز الوكيل عن روبوت المحادثة حتى لو استخدم الاثنان نموذج لغة كبيرًا. فقد يكتب روبوت المحادثة مسودة بريد إلكتروني، بينما يستطيع الوكيل البحث عن المعلومات، وإعداد الرسالة، وإرسالها، وتحديث نظام آخر. وقد يشرح مساعد البرمجة خطأً في الشيفرة، بينما يستطيع الوكيل فحص قاعدة الشيفرة، وتعديل الملفات، وتشغيل الاختبارات، وإعداد التغيير للمراجعة.

ومن أمثلة السوق الحالية وكلاء تطوير البرمجيات مثل Google Jules، وأدوات سير عمل التوظيف مثل LinkedIn Hiring Assistant، وأطر الوكلاء الشخصيين مثل OpenClaw. وتصف مواد المشروع OpenClaw بأنه مساعد شخصي مفتوح المصدر يعمل على أجهزة المستخدم ويتصل بالقنوات والأدوات؛ لكن قدراته الفعلية تعتمد على عمليات التكامل والصلاحيات التي يفعّلها المستخدم.

لماذا قد تكون الوكلاء مفيدة؟

يمكن للأنظمة الوكيلية أن:

• تنجز مسارات عمل كاملة بدلًا من مهام صياغة منفردة؛
• تقلل التنسيق الروتيني والأعمال الإدارية؛
• تربط المعلومات الموزعة بين أنظمة الأعمال المختلفة؛
• تعمل بصورة مستمرة ضمن حدود محددة.

وقد تجعل هذه الأنظمة مسارات العمل المعقدة في متناول المؤسسات الصغيرة والمستخدمين الأفراد. لكنها تنقل السؤال المركزي من: «هل الإجابة دقيقة؟» إلى: «ما الذي يُسمح للنظام بفعله؟ وكيف يمكن التحقق من أفعاله؟»

لماذا تزيد الاستقلالية مساحة المخاطر؟

قد يخطئ النموذج التوليدي في إجابة، لكن الوكيل يستطيع تحويل استنتاج خاطئ، أو تعليمات خبيثة، أو أداة مخترقة إلى إجراء خارجي.

فقد يستخدم وكيل يملك صلاحية مالية لإجراء دفعة أو شراء أو تحويل أو إلغاء غير مصرح به. وقد يُستدرج وكيل يملك صلاحية الوصول إلى البريد الإلكتروني أو المتصفح أو الخدمات السحابية عبر صفحة أو وثيقة خبيثة إلى كشف بيانات الاعتماد أو إرسال ملفات سرية. كما يمكن للصلاحيات المفرطة، وضعف ضوابط الهوية، وعدم الفصل الجيد بين المهام، أن يحوّل خطأً صغيرًا في النموذج إلى حادث خطير.

وتصبح المساءلة أصعب عندما تنشأ النتيجة من تفاعل النموذج والتعليمات والبيانات والأدوات ووكلاء آخرين. لذلك يحتاج مشغّل النظام إلى رؤية النتيجة النهائية، والإجراء المقترح، والأدلة التي يستند إليها، والصلاحيات المستخدمة.

يجب أن تتناسب الحوكمة مع القدرة

تنطبق مبادئ أساسية واحدة على المراحل الثلاث: تعيين مسؤول واضح، وحصر النظام في غرض محدد، وحماية البيانات، والاختبار قبل الإطلاق، ومراقبة الأداء، والاستعداد للحوادث، وتوفير مراجعة بشرية أو قدرة حقيقية على الإيقاف في القرارات المؤثرة.

أما الأنظمة الوكيلية فتحتاج إلى ضوابط إضافية لأنها قد تؤثر في أنظمة خارجية، منها:

• اعتماد مبدأ أقل الصلاحيات، مع بيانات اعتماد محددة المدة؛
• استخدام حسابات منفصلة وهوية واضحة لكل وكيل؛
• وضع حدود صريحة لما يجوز للوكيل قراءته أو كتابته أو إرساله أو شراؤه أو حذفه أو نشره؛
• فرض نقاط موافقة قبل الإجراءات غير القابلة للعكس أو عالية التأثير؛
• تحديد قائمة بالأدوات المعتمدة، واستخدام بيئات معزولة، والحماية من حقن الأوامر؛
• وضع حدود للمعاملات واكتشاف الأنماط الشاذة؛
• الاحتفاظ بسجلات تفصيلية ومقاومة للعبث لكل إجراء؛
• فصل المهام وطلب موافقة بشرية تتناسب مع مستوى الخطر؛
• توفير زر إيقاف أو تعليق سريع.

أطلقت سنغافورة في ٢٢ يناير ٢٠٢٦ إطار الحوكمة النموذجي للذكاء الاصطناعي الوكيلي، وهو إرشاد للمنظمات التي تنشر هذه الأنظمة وليس قانونًا مستقلًا للذكاء الاصطناعي. ويضع الإطار المساءلة البشرية والمؤسسية في مركزه، ويوصي بإدارة المخاطر وضوابط تتناسب مع مستوى استقلالية الوكيل.

وفي القطاع المالي، تصف ورقة SAFR الصادرة عن سلطة النقد في سنغافورة نهجًا للحوكمة أثناء التشغيل، تُسجل فيه بصورة منظمة نية الوكيل، وسبب اتخاذه للإجراء، والأدلة التي تدعم الإجراء المقترح.

الخلاصة

لا يمثل تطور الذكاء الاصطناعي مسيرة بسيطة من «ذكاء اصطناعي قديم» إلى «ذكاء اصطناعي جديد». فما زالت الأنظمة القائمة على القواعد والتنبؤ الخيار الأنسب لكثير من القرارات المحددة. ويضيف الذكاء الاصطناعي التوليدي إنتاجًا مرنًا وتفاعلًا باللغة الطبيعية، بينما يضيف الذكاء الاصطناعي الوكيلي القدرة على متابعة الأهداف عبر الأدوات وتنفيذ الإجراءات الخارجية.

ومع اتساع القدرة تتسع مسؤولية الحوكمة. فالتنبؤ يتطلب الانتباه إلى الدقة والتحيز وانجراف البيانات، والتوليد يتطلب التحقق والسلامة والخصوصية ومصدر المحتوى، أما الفعل فيتطلب كل ذلك، إلى جانب ضبط الصلاحيات، ونقاط الموافقة، والمساءلة، وخطط التعافي. ولهذا ستجمع منتجات الذكاء الاصطناعي الأكثر موثوقية بين قوة النماذج والانضباط في تصميم الأنظمة والإشراف البشري.

لكن هذه المراحل ليست جزرًا منفصلة. فقد يجمع المنتج الواحد بين نموذج تنبؤي لتصنيف طلب المستخدم، ونموذج توليدي لصياغة الرد، وبرمجيات تقليدية تقرر ما إذا كان تنفيذ الإجراء مسموحًا.

أولًا: الذكاء الاصطناعي التقليدي — القواعد والتصنيف والتنبؤ

يشمل الذكاء الاصطناعي التقليدي اتجاهين رئيسيين:

• الأنظمة الرمزية أو القائمة على القواعد: يحدد البشر فيها المنطق والمعرفة المتخصصة وإجراءات اتخاذ القرار.
• أنظمة التعلم الآلي: تتعلم العلاقات الإحصائية من البيانات التاريخية لتصنيف المدخلات أو تقدير النتائج.

أظهرت برامج لعب الألعاب المبكرة كيف يمكن للآلات البحث في عدد كبير من النقلات المحتملة ضمن بيئة محددة. ولاحقًا استُخدمت أفكار مشابهة، إلى جانب التعلم الإحصائي، في مهام عملية مثل:

• اكتشاف المعاملات غير المعتادة أو الشبيهة بالاحتيال؛
• تقييم مخاطر الائتمان والتعثر؛
• تقدير مخاطر صحية، مثل تدهور حالة المريض أو إعادة إدخاله إلى المستشفى؛
• ترتيب المنتجات ومقاطع الفيديو والموسيقى والمنشورات في محركات التوصية؛
• الجمع بين التعرف على الكلام، وتصنيف النوايا، ومسارات العمل المحددة مسبقًا في مساعدات صوتية مثل Siri.

تكون هذه الأنظمة قوية غالبًا عندما تكون المهمة ضيقة النطاق، ومتكررة، وقابلة للقياس. فهي تعالج كميات كبيرة من الحالات بسرعة وتنتج مخرجات متسقة. كما قد تكون الأنظمة القائمة على القواعد أسهل في الفحص من النماذج المعقدة، لأن منطقها يكون ظاهرًا ومحددًا.

حدود التنبؤ

لا يفهم الذكاء الاصطناعي التقليدي تلقائيًا سبب حدوث النتيجة. فقد يكتشف النموذج علاقة إحصائية من دون إثبات السببية، كما يمكن للنظام المدرّب على بيانات تاريخية متحيزة أن يعيد إنتاج التحيز أو يفاقمه. وقد تصبح القواعد هشة خارج الظروف التي صُممت لها، في حين يصعب أحيانًا تفسير النماذج التنبؤية المعقدة.

وقد يتراجع الأداء عندما يتغير الواقع، وهي مشكلة تُعرف عادةً باسم انجراف البيانات. لذلك تتطلب الاستخدامات عالية التأثير، مثل الإقراض والتوظيف والتأمين والشرطة والرعاية الصحية، فحص جودة البيانات، واختبارات التحيز، وتفسيرات مناسبة للقرار، ومراجعة بشرية، ومراقبة مستمرة، وطرقًا للاعتراض.

ثانيًا: الذكاء الاصطناعي التوليدي — إنشاء محتوى جديد

يتعلم الذكاء الاصطناعي التوليدي الأنماط من مجموعات ضخمة من النصوص أو الصور أو الصوت أو الفيديو أو الشيفرات البرمجية، ثم يستخدمها لإنتاج مخرجات جديدة. وتولّد نماذج اللغة الكبيرة النص بصورة متسلسلة، بينما تستطيع الأنظمة متعددة الوسائط التعامل مع أكثر من صيغة.

غيّر ذلك تجربة استخدام الذكاء الاصطناعي. فبدل اختيار أمر من قائمة ثابتة أو تلقي درجة تصنيف، يستطيع المستخدم وصف هدفه بلغة عادية وطلب صياغة مادة أو تحويلها أو شرحها.

أين يُستخدم الذكاء الاصطناعي التوليدي؟

• خدمة العملاء: صياغة الردود، وتلخيص المحادثات، وترجمة المواد، واسترجاع المعلومات من قواعد المعرفة.
• العمل القانوني: تلخيص الوثائق، واستخراج البنود، ومقارنة السوابق والمراجع، وإعداد المسودات الأولى. ويظل على المتخصصين التحقق من المصادر الأولية والادعاءات القانونية.
• التعليم: شرح المفاهيم، وإنشاء أسئلة تدريبية، وتقديم الملاحظات.
• العمل الإبداعي: العصف الذهني، وكتابة النصوص، وتوليد الصور والموسيقى وأفكار الفيديو والشيفرات البرمجية.
• البرمجة: شرح الشيفرة، وكتابة الاختبارات، واقتراح الإصلاحات، وتسريع الأعمال التطويرية الروتينية.

وتتمثل أبرز المزايا في السرعة، وخفض تكلفة إعداد المسودات، والتفاعل باللغة الطبيعية، وإنتاج نسخ متعددة ومخصصة. لكن القدرة على إنتاج إجابة تبدو مقنعة لا تساوي امتلاك حكم خبير موثوق.

المخاطر الرئيسية

الهلوسة والثقة الزائدة. قد تنتج نماذج اللغة الكبيرة معلومات مختلقة أو غير دقيقة أو متحيزة أو مبسطة أكثر من اللازم، وبنبرة واثقة. وتشير أبحاث التحقق والتقييم إلى أن الهلوسة والمحتوى الضار والتلاعب وانتهاك حقوق النشر والخصوصية والأمن تتطلب اختبارات ومراقبة مستمرة.

التعلم والنزاهة الأكاديمية. أظهرت تجربة ميدانية واسعة في المدارس أن التدريس المدعوم بالذكاء الاصطناعي حسّن أداء الطلاب أثناء إتاحة الأداة، لكن الطلاب الذين اعتمدوا عليها من دون ضوابط مناسبة قدّموا أداءً أسوأ بعد إزالة الوصول إليها، بما يشير إلى تراجع اكتساب المهارات. وكانت التلميحات التي صممها المعلمون أكثر حماية من تقديم الإجابات مباشرة. كما قد تسهّل الأدوات التوليدية الانتحال أو تجعل من الصعب معرفة ما إذا كان الطالب قد أتقن العمل فعلًا.

حقوق النشر ومصدر المحتوى. لا تزال قضايا مصدر بيانات التدريب، ومحاكاة الأساليب، والمخرجات التي تعيد إنتاج مواد محمية موضع نقاش. وتعد الإرشادات التعليمية انتهاك الملكية الفكرية خطرًا مهمًا إلى جانب المحتوى غير الدقيق أو المتحيز أو غير الآمن.

المحتوى الضار والتلاعب. يمكن للأنظمة التوليدية إنتاج معلومات مضللة، ومضايقات، ومواد جنسية أو عنيفة، وتعليمات خطرة. لذلك توصي إرشادات السلامة بالاختبار، ووسائل الحماية، وتسجيل النشاط، والمراقبة، بدل افتراض أن النموذج سيلتزم دائمًا بالسلوك المقصود.

سلامة الشباب ورفاههم. تشير أبحاث مخاطر الذكاء الاصطناعي التوليدي على صغار السن إلى مخاوف تتعلق بالصحة النفسية، والتطور السلوكي والاجتماعي، والسمية، والخصوصية، وإساءة الاستخدام أو الاستغلال. وتصبح هذه المخاطر أكثر خطورة عندما يتعامل المستخدم مع روبوت المحادثة بوصفه بديلًا موثوقًا عن الدعم البشري المؤهل.

الخصوصية والسرية. قد تتضمن المطالبات بيانات شخصية، أو أسرارًا تجارية، أو مواد تخص العملاء، أو معلومات مشمولة بالسرية القانونية. وتحتاج المؤسسات إلى قواعد واضحة تحدد البيانات التي يمكن إدخالها في كل خدمة، كما ينبغي للمستخدمين اعتبار الأنظمة غير المعتمدة غير مناسبة للمعلومات الحساسة.

ضوابط عملية للذكاء الاصطناعي التوليدي

من القواعد الأساسية التعامل مع مخرجات النموذج على أنها مسودة لا دليل. وينبغي التحقق من الادعاءات المهمة بالرجوع إلى مصادر موثوقة، مع فرض مراجعة بشرية في القرارات الطبية والقانونية والمالية وقرارات التوظيف والقرارات المرتبطة بالسلامة.

ومن الضوابط المفيدة: ربط الإجابات بمصادر معتمدة، وإضافة الإحالات، واختبارات الفرق الحمراء، ووسائل حماية المحتوى، وتصميم ملائم للعمر، وسجلات تدقيق، وإبلاغ المستخدم عند استخدام الذكاء الاصطناعي، وسياسات تخص التعامل مع البيانات والاستخدام الأكاديمي ومصدر المحتوى وحقوق الملكية الفكرية. كما تسلط الإرشادات الحكومية الضوء على المحتوى غير الدقيق أو المتحيز، وانتهاكات الخصوصية، وانتهاك الملكية الفكرية، وتحديات النزاهة الأكاديمية.

ثالثًا: الذكاء الاصطناعي الوكيلي — أنظمة تستطيع الفعل

يضيف الذكاء الاصطناعي الوكيلي طبقة تنفيذ. إذ يستطيع الوكيل تفسير الهدف، وتقسيمه إلى خطوات، واستدعاء أدوات مثل متصفحات الإنترنت، ومستودعات الشيفرات، وقواعد البيانات، وأنظمة المراسلة، وفحص النتائج المرحلية، ثم مواصلة العمل ضمن الصلاحيات الممنوحة له.

وهذا ما يميز الوكيل عن روبوت المحادثة حتى لو استخدم الاثنان نموذج لغة كبيرًا. فقد يكتب روبوت المحادثة مسودة بريد إلكتروني، بينما يستطيع الوكيل البحث عن المعلومات، وإعداد الرسالة، وإرسالها، وتحديث نظام آخر. وقد يشرح مساعد البرمجة خطأً في الشيفرة، بينما يستطيع الوكيل فحص قاعدة الشيفرة، وتعديل الملفات، وتشغيل الاختبارات، وإعداد التغيير للمراجعة.

ومن أمثلة السوق الحالية وكلاء تطوير البرمجيات مثل Google Jules، وأدوات سير عمل التوظيف مثل LinkedIn Hiring Assistant، وأطر الوكلاء الشخصيين مثل OpenClaw. وتصف مواد المشروع OpenClaw بأنه مساعد شخصي مفتوح المصدر يعمل على أجهزة المستخدم ويتصل بالقنوات والأدوات؛ لكن قدراته الفعلية تعتمد على عمليات التكامل والصلاحيات التي يفعّلها المستخدم.

لماذا قد تكون الوكلاء مفيدة؟

يمكن للأنظمة الوكيلية أن:

• تنجز مسارات عمل كاملة بدلًا من مهام صياغة منفردة؛
• تقلل التنسيق الروتيني والأعمال الإدارية؛
• تربط المعلومات الموزعة بين أنظمة الأعمال المختلفة؛
• تعمل بصورة مستمرة ضمن حدود محددة.

وقد تجعل هذه الأنظمة مسارات العمل المعقدة في متناول المؤسسات الصغيرة والمستخدمين الأفراد. لكنها تنقل السؤال المركزي من: «هل الإجابة دقيقة؟» إلى: «ما الذي يُسمح للنظام بفعله؟ وكيف يمكن التحقق من أفعاله؟»

لماذا تزيد الاستقلالية مساحة المخاطر؟

قد يخطئ النموذج التوليدي في إجابة، لكن الوكيل يستطيع تحويل استنتاج خاطئ، أو تعليمات خبيثة، أو أداة مخترقة إلى إجراء خارجي.

فقد يستخدم وكيل يملك صلاحية مالية لإجراء دفعة أو شراء أو تحويل أو إلغاء غير مصرح به. وقد يُستدرج وكيل يملك صلاحية الوصول إلى البريد الإلكتروني أو المتصفح أو الخدمات السحابية عبر صفحة أو وثيقة خبيثة إلى كشف بيانات الاعتماد أو إرسال ملفات سرية. كما يمكن للصلاحيات المفرطة، وضعف ضوابط الهوية، وعدم الفصل الجيد بين المهام، أن يحوّل خطأً صغيرًا في النموذج إلى حادث خطير.

وتصبح المساءلة أصعب عندما تنشأ النتيجة من تفاعل النموذج والتعليمات والبيانات والأدوات ووكلاء آخرين. لذلك يحتاج مشغّل النظام إلى رؤية النتيجة النهائية، والإجراء المقترح، والأدلة التي يستند إليها، والصلاحيات المستخدمة.

يجب أن تتناسب الحوكمة مع القدرة

تنطبق مبادئ أساسية واحدة على المراحل الثلاث: تعيين مسؤول واضح، وحصر النظام في غرض محدد، وحماية البيانات، والاختبار قبل الإطلاق، ومراقبة الأداء، والاستعداد للحوادث، وتوفير مراجعة بشرية أو قدرة حقيقية على الإيقاف في القرارات المؤثرة.

أما الأنظمة الوكيلية فتحتاج إلى ضوابط إضافية لأنها قد تؤثر في أنظمة خارجية، منها:

• اعتماد مبدأ أقل الصلاحيات، مع بيانات اعتماد محددة المدة؛
• استخدام حسابات منفصلة وهوية واضحة لكل وكيل؛
• وضع حدود صريحة لما يجوز للوكيل قراءته أو كتابته أو إرساله أو شراؤه أو حذفه أو نشره؛
• فرض نقاط موافقة قبل الإجراءات غير القابلة للعكس أو عالية التأثير؛
• تحديد قائمة بالأدوات المعتمدة، واستخدام بيئات معزولة، والحماية من حقن الأوامر؛
• وضع حدود للمعاملات واكتشاف الأنماط الشاذة؛
• الاحتفاظ بسجلات تفصيلية ومقاومة للعبث لكل إجراء؛
• فصل المهام وطلب موافقة بشرية تتناسب مع مستوى الخطر؛
• توفير زر إيقاف أو تعليق سريع.

أطلقت سنغافورة في ٢٢ يناير ٢٠٢٦ إطار الحوكمة النموذجي للذكاء الاصطناعي الوكيلي، وهو إرشاد للمنظمات التي تنشر هذه الأنظمة وليس قانونًا مستقلًا للذكاء الاصطناعي. ويضع الإطار المساءلة البشرية والمؤسسية في مركزه، ويوصي بإدارة المخاطر وضوابط تتناسب مع مستوى استقلالية الوكيل.

وفي القطاع المالي، تصف ورقة SAFR الصادرة عن سلطة النقد في سنغافورة نهجًا للحوكمة أثناء التشغيل، تُسجل فيه بصورة منظمة نية الوكيل، وسبب اتخاذه للإجراء، والأدلة التي تدعم الإجراء المقترح.

الخلاصة

لا يمثل تطور الذكاء الاصطناعي مسيرة بسيطة من «ذكاء اصطناعي قديم» إلى «ذكاء اصطناعي جديد». فما زالت الأنظمة القائمة على القواعد والتنبؤ الخيار الأنسب لكثير من القرارات المحددة. ويضيف الذكاء الاصطناعي التوليدي إنتاجًا مرنًا وتفاعلًا باللغة الطبيعية، بينما يضيف الذكاء الاصطناعي الوكيلي القدرة على متابعة الأهداف عبر الأدوات وتنفيذ الإجراءات الخارجية.

ومع اتساع القدرة تتسع مسؤولية الحوكمة. فالتنبؤ يتطلب الانتباه إلى الدقة والتحيز وانجراف البيانات، والتوليد يتطلب التحقق والسلامة والخصوصية ومصدر المحتوى، أما الفعل فيتطلب كل ذلك، إلى جانب ضبط الصلاحيات، ونقاط الموافقة، والمساءلة، وخطط التعافي. ولهذا ستجمع منتجات الذكاء الاصطناعي الأكثر موثوقية بين قوة النماذج والانضباط في تصميم الأنظمة والإشراف البشري.