كيف تحقق شركة فرنسية ناشئة أسرع معالجة لنماذج الذكاء الاصطناعي بـ 30 ضعفًا دون لمس العتاد؟

تزعم Kog، وهي شركة ناشئة فرنسية، أنها قادرة على تحقيق سرعة استدلال (Inference) لنماذج اللغات الكبيرة (LLM) تصل إلى 30 ضعفًا على معالجات GPU الحالية، وذلك من خلال حزمة تحسين برمجية عميقة تعيد تصميم ثلاثة مستويات كنظام واحد متماسك: الهندسة المعمارية المخصصة للنموذج (Laneformer)، ومحرك الاستدلال أحادي النواة (KIE)، وطبقة اتصال مخصصة (KCCL) . الفكرة الأساسية هي التخلص من كل مصدر من مصادر التوقف في حلقة فك التشفير دون الحاجة إلى عتاد جديد.

كيف تعمل الاستراتيجية البرمجية؟

• Monokernel (نواة CUDA واحدة مستمرة): تعمل عملية فك التشفير الكاملة للنموذج كنواة واحدة دون أي إطلاق أو مقاطعة بين الطبقات، مما يلغي تكاليف بدء التشغيل .
• Delayed Tensor Parallelism (التوازي الموتر المؤجل - DTP): بينما يمنع التوازي الموتر القياسي (Standard Tensor Parallelism) التنفيذ للانتظار حتى اكتمال عملية all-reduce في كل طبقة، تؤخر Kog هذه العملية بمقدار δ=2 طبقات، مما يسمح بتداخل الاتصال مع الحساب وتدفق الأوزان، وبالتالي لا تبقى معالجات GPU خاملة .
• Laneformer (هندسة المحولات ذات المسارات): يقسم النموذج إلى 8 'مسارات' متوازية تتوافق مع جدول اتصالات DTP، مما يسمح للمحرك بإخفاء تكاليف التوازي الموتر تمامًا .
• KCCL (طبقة اتصال مخصصة): تحل محل مكتبات NCCL/RCCL القياسية لتحقيق زمن وصول أقل وتوسع خطي للتوازي الموتر عبر معالجات GPU .
• تحسين على مستوى التجميع: تعمل Kog على مستوى C++/التجميع بدلاً من ترقية CUDA أو ROCm، مستهدفة كل دورة من عرض النطاق الترددي للذاكرة واستخدام الحوسبة .

نتائج Laneformer 2B المثبتة

أصدرت Kog نموذج Laneformer 2B (2.3 مليار معلم) مفتوح المصدر، وهو نموذج برمجة معدّل تعليميًا، مصمم لسرعة فك التشفير على حساب نتائج المعايير الخام . هذه السرعات أسرع بحوالي 10 مرات من سرعة vLLM التقليدية لنموذج بهذا الحجم .

المقياس	النتيجة
سرعة فك التشفير على 8× AMD MI300X	3,000 رمز مخرج/ثانية لكل طلب (FP16، حجم الدفعة 1)
سرعة فك التشفير على 8× NVIDIA H200	2,100 رمز مخرج/ثانية لكل طلب (FP16، حجم الدفعة 1)
HumanEval+ (greedy)	45.1%
MBPP+ (greedy)	51.6%
المنهجية	لا تكميم، لا فك تخميني، لا تقليم

المعالم القادمة للتوسع

• الهدف القريب: إثبات تحسين في السرعة بمقدار 10 أضعاف على نموذج صناعي رئيسي (مثل 70B+ أو MoE)، وتتوقع الشركة تحقيقه في الأشهر القادمة .
• الطموح البعيد: إظهار أن نهجها يمكنه تقديم معالجة أسرع بـ 30 مرة على نماذج MoE الحدودية الكبيرة بسرعات مماثلة لما حققته على Laneformer 2B. تجادل Kog بأن تقنيات DTP و Monokernel تتوسع بشكل إيجابي مع بنيات MoE .
• منذ إطلاقها في مايو 2026، تقول Kog إنها حققت أكثر من 200 عميل محتمل، وهي تركز الآن على دعم النماذج الأكبر لتلبية الطلب المؤسسي .

مقارنة مع المنافسين

ZML: شركة فرنسية ناشئة أخرى في مجال الذكاء الاصطناعي (يدعمها Yann LeCun) تتبنى نهجًا مختلفًا مع LLMD، وهو محرك استدلال مجاني ومتعدد الشرائح (NVIDIA, AMD, Google TPU, Apple Metal, Intel Arc) . بينما تركز ZML على قابلية النقل والدعم عبر أجهزة متعددة، تم تصميم Kog خصيصًا لتقليل زمن الانتقال إلى أقصى حد على معالجات GPU المحددة عالية الأداء (MI300X, H200) من خلال تحسينات عميقة خاصة بالعتاد.

Cerebras: تعتمد استراتيجية تعتمد على العتاد أولاً مع معالج Wafer-Scale Engine (WSE-3) الضخم الذي يلغي الحاجة للاتصال بين معالجات GPU المتعددة. توفر Cerebras حوالي 2,100 رمز/ثانية على نموذج Llama 3.1 70B (حجم الدفعة 1) — وهي سرعة لنموذج 70B وليس 2B.

الجانب	Kog	Cerebras
المنهج	برمجي بحت على معالجات GPU قياسية	عتاد مخصص (Wafer-Scale)
أفضل عرض	3,000 رمز/ثانية على نموذج 2B	~2,100 رمز/ثانية على نموذج 70B
ادعاء زمن الانتقال	يستهدف 30 ضعفًا على النماذج الحدودية	~4 أضعاف مقارنة بـ H100 على نماذج 70B
تكلفة العتاد	يستخدم البنية التحتية الحالية لـ GPU	يتطلب أنظمة CS-3 المملوكة
النضج	مرحلة مبكرة (معاينة تقنية، 2B فقط)	إنتاجي لنماذج مفتوحة متعددة

تحذير مهم: نتيجة 3,000 رمز/ثانية لـ Kog مبنية على نموذج 2.3B — وهو أصغر بعشر مرات من نماذج 70B التي تقدمها Cerebras بسرعات مماثلة. لم تثبت Kog بعد ادعاءها بـ 30 ضعفًا على نطاق واسع؛ المعلم الحاسم التالي سيكون إثبات سرعة 10 أضعاف على نموذج صناعي كبير .