الإجاباتمنشور21 المصادر
كيف تحقق شركة فرنسية ناشئة أسرع معالجة لنماذج الذكاء الاصطناعي بـ 30 ضعفًا دون لمس العتاد؟
تحقق Kog سرعة 3000 رمز في الثانية لكل طلب على عقدة 8× AMD MI300X باستخدام محرك استدلال برمجي بحت، دون الحاجة إلى عتاد مخصص أو تقنيات كمية أو تخمينية. ابتكارها الأساسي هو 'التوازي الموتر المؤجل' (DTP) الذي يؤخر الاتصال بين معالجات GPU إلى طبقتين، مما يلغي فترات التوقف ويخفي تكاليف الاتصال تمامًا.
نشر بواسطةتم التحرير باستخدام DeepSeek-V4-Flashتم إنشاء الصور باستخدام GPT Image 1.5
إجابة البحث
الوجبات السريعة الرئيسية
- تحقق Kog سرعة 3000 رمز في الثانية لكل طلب على عقدة 8× AMD MI300X باستخدام محرك استدلال برمجي بحت، دون الحاجة إلى عتاد مخصص أو تقنيات كمية أو تخمينية.
- ابتكارها الأساسي هو 'التوازي الموتر المؤجل' (DTP) الذي يؤخر الاتصال بين معالجات GPU إلى طبقتين، مما يلغي فترات التوقف ويخفي تكاليف الاتصال تمامًا.
- لم تثبت Kog بعد ادعاءها الكامل بـ 30 ضعفًا على النماذج الكبيرة (أفضل عرض لها على نموذج 2B)، وتحتاج إلى إثبات سرعة 10 أضعاف على نموذج صناعي كبير في الأشهر المقبلة.
موجّه الذكاء الاصطناعي
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Kog's approach to achieving up to 30x faster LLM inference on existing GPUs, how does its software-first strategy work, what results. Article summary: ## Kog's Approach and Results. Topic tags: general, documentation, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and tiny thumbnail layouts. Make it useful as an illustrative visual, not as factual evidence.
تزعم Kog، وهي شركة ناشئة فرنسية، أنها قادرة على تحقيق سرعة استدلال (Inference) لنماذج اللغات الكبيرة (LLM) تصل إلى 30 ضعفًا على معالجات GPU الحالية، وذلك من خلال حزمة تحسين برمجية عميقة تعيد تصميم ثلاثة مستويات كنظام واحد متماسك: الهندسة المعمارية المخصصة للنموذج (Laneformer)، ومحرك الاستدلال أحادي النواة (KIE)، وطبقة اتصال مخصصة (KCCL) . الفكرة الأساسية هي التخلص من كل مصدر من مصادر التوقف في حلقة فك التشفير دون الحاجة إلى عتاد جديد.
كيف تعمل الاستراتيجية البرمجية؟
- Monokernel (نواة CUDA واحدة مستمرة): تعمل عملية فك التشفير الكاملة للنموذج كنواة واحدة دون أي إطلاق أو مقاطعة بين الطبقات، مما يلغي تكاليف بدء التشغيل .
Studio Global AI
مواصلة البحث الخاص بك
تتضمن هذه الصفحة إجابة مدعومة بالمصدر يمكنك المتابعة داخل Studio Global.
يسأل الناس أيضا
ما هي الإجابة المختصرة على "كيف تحقق شركة فرنسية ناشئة أسرع معالجة لنماذج الذكاء الاصطناعي بـ 30 ضعفًا دون لمس العتاد؟"؟
تحقق Kog سرعة 3000 رمز في الثانية لكل طلب على عقدة 8× AMD MI300X باستخدام محرك استدلال برمجي بحت، دون الحاجة إلى عتاد مخصص أو تقنيات كمية أو تخمينية.
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
تحقق Kog سرعة 3000 رمز في الثانية لكل طلب على عقدة 8× AMD MI300X باستخدام محرك استدلال برمجي بحت، دون الحاجة إلى عتاد مخصص أو تقنيات كمية أو تخمينية. ابتكارها الأساسي هو 'التوازي الموتر المؤجل' (DTP) الذي يؤخر الاتصال بين معالجات GPU إلى طبقتين، مما يلغي فترات التوقف ويخفي تكاليف الاتصال تمامًا.
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
لم تثبت Kog بعد ادعاءها الكامل بـ 30 ضعفًا على النماذج الكبيرة (أفضل عرض لها على نموذج 2B)، وتحتاج إلى إثبات سرعة 10 أضعاف على نموذج صناعي كبير في الأشهر المقبلة.