ما هو GLM-5.3-FlashX، وهل تعني سرعته المعلنة أداءً أفضل للجميع؟

إذا كنت تختار نموذجاً لتطبيقك، فالتمييز المهم هنا هو بين سرعة استجابة مستخدم واحد وقدرة الخدمة على معالجة طلبات كثيرة. تطلق «تشيبو إيه آي» اسم GLM-5.3-FlashX على نسخة أسرع تُتاح عبر واجهة برمجية من GLM-5.3-Flash مفتوح الأوزان. وتعرض الشركة الفارق بوصفه تحسيناً في الاستدلال وتقديم الخدمة، لا بنية نموذج جديدة موثقة أو إصداراً منفصلاً بأوزان مفتوحة. 14

ما الفرق بين النسختين؟

النموذج الأساسي Flash متعدد الوسائط، ويستخدم بنية «مزيج الخبراء»: يضم 320 مليار معلمة إجمالاً، تُفعّل منها 18 ملياراً أثناء المعالجة، مع نافذة سياق معلنة تصل إلى مليون رمز. أما الرقم الذي تبرز به الشركة FlashX فهو سرعة تصل إلى 200 رمز مخرَج في الثانية. هذه سرعة قصوى تعلنها الجهة المطوّرة، وليست دليلاً بحد ذاتها على مقدار تفوق FlashX على Flash عند اختبارهـما تحت الحمل والظروف نفسيهما. 174

ماذا تقول الشركة عن البنية التحتية؟

تقول تشيبو إن حركة الاستخدام الإنتاجية لنموذج Flash تعمل على أكثر من 100 ألف مسرّع ذكاء اصطناعي صيني الصنع. ووفق روايتها، ساعد وكيل برمجي للبنية التحتية يُسمّى Infra Agent، ويعمل بنموذج GLM-5.3، في تشخيص اختناقات الأداء وتعديل الشيفرة وتحسين نظام تقديم الاستدلال؛ وشملت الأعمال المبلّغ عنها تخفيف اختناق التزامن عند نقل بيانات KV وتحسين مكوّن لفك الترميز. وتقول إن إنتاجية الخدمة من البداية إلى النهاية بلغت 3.2 أمثال مستواها الابتدائي خلال أقل من أسبوعين. هذا مقياس لقدرة النظام ككل، وليس معدل توليد الرموز الذي سيحصل عليه كل مستخدم في FlashX. 5613

وتقول الشركة أيضاً إن استغلال العتاد وتكلفة تقديم الخدمة لكل رمز أصبحا بمستوى مقارب لأنظمة تعتمد على وحدات معالجة الرسوميات الشائعة من «إنفيديا». لكن انخفاض تكلفة التشغيل المزعوم لا يعني انخفاض السعر على العميل: الأسعار المدرجة لكل مليون رمز هي 0.37 دولار للمدخلات و1.25 دولار للمخرجات في FlashX، مقابل 0.15 و0.50 دولار على الترتيب في Flash؛ أي إن سعر رموز المخرجات في FlashX أعلى بنحو 2.5 مرة. 71345

ما الذي يحتاج إلى تحقق مستقل؟

ما زالت هناك حاجة إلى قياسات مستقلة لثبات سرعة 200 رمز في الثانية وزمن الاستجابة والموثوقية عند تزامن الطلبات، ولعدد المسرّعات ونطاق حركة الإنتاج التي تخدمها. كما يلزم فحص خط الأساس وراء زيادة الإنتاجية المعلنة، وفصل مساهمة Infra Agent عن عمل المهندسين، وإجراء مقارنة متكافئة لتكلفة الرمز مع أنظمة إنفيديا. التقارير المتاحة تنقل هذه الأرقام في معظمها عن تشيبو، ولا تمثل تدقيقاً مستقلاً لها. 156