الإجاباتمنشور13 المصادر
كيف تريد إنفيديا أن تستفيد من كل بايت بدلًا من الاكتفاء بإضافة مزيد من الذاكرة
ترى إنفيديا أن النماذج الأكبر والسياقات الأطول وتطبيقات الوكلاء تزيد الضغط على ذاكرة GPU، وتقترح جعل كل بايت أكثر فاعلية بدل الاعتماد على زيادة السعة وحدها. تشمل الخطة NVFP4، وتوزيع أوزان نماذج الخبراء، وبرمجية Dynamo، ومعالج Vera، ومنصة تخزين السياق CMX.
نشر بواسطةتم التحرير باستخدام GPT-6 Lunaتم إنشاء الصور باستخدام GPT Image 2
إجابة البحث
الوجبات السريعة الرئيسية
- ترى إنفيديا أن النماذج الأكبر والسياقات الأطول وتطبيقات الوكلاء تزيد الضغط على ذاكرة GPU، وتقترح جعل كل بايت أكثر فاعلية بدل الاعتماد على زيادة السعة وحدها.
- تشمل الخطة NVFP4، وتوزيع أوزان نماذج الخبراء، وبرمجية Dynamo، ومعالج Vera، ومنصة تخزين السياق CMX.
- تختلف صياغة تقارير «حتى 30 ضعفًا» بين الإنتاجية مقابل الدولار والإنتاجية مقابل الطاقة؛ ولا تكفي المواد المتاحة للتحقق المستقل من المقارنة أو نتائجها في الاستخدام الفعلي.
موجّه الذكاء الاصطناعي
openai.comCreate a landscape editorial hero image for this Studio Global article: How did Nvidia’s November 5, 2026 posts argue that codesigning GPUs, CPUs, networking, storage and software—rather than simply adding GPU me. Article summary: Nvidia’s November 5 argument was that AI’s memory problem requires a coordinated system—not simply more GPU memory: compress weights, distribute them efficiently, reuse context, and move inactive context out of scarce HB. Topic tags: general, documentation, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
تقول إنفيديا إن ضغط الذاكرة في الذكاء الاصطناعي لا يُحل بمجرد زيادة سعة ذاكرة المعالج الرسومي. فالنماذج الأكبر والسياقات الأطول وتطبيقات الوكلاء تجعل أوزان النموذج وسياق الاستدلال يتنافسان على ذاكرة النطاق الترددي العالي (HBM)، في وقت يتقلص فيه المعروض وترتفع الأسعار، بحسب الشركة.9 وبدلًا من التركيز على السعة وحدها، تقترح تنسيق مكونات النظام كي ينجز كل بايت قدرًا أكبر من العمل المفيد.
20
خمس وسائل لتخفيف الضغط على الذاكرة
1. ضغط أوزان النماذج باستخدام NVFP4
تقول إنفيديا إن NVFP4 يقلل المساحة التي تشغلها أوزان النموذج بنحو 3.5 مرات مقارنةً بـFP16، وبنحو 1.8 مرة مقارنةً بـFP8، مع الحفاظ على الدقة.20 وقد يتيح تقليل حجم الأوزان مساحة أكبر في HBM لأغراض أخرى، مثل سياق الاستدلال وخدمة طلبات متزامنة. لكن هذه أرقام تذكرها الشركة، ولا تعني أن كل نموذج أو نظام تشغيل سيحقق النتيجة نفسها.
2. توزيع أوزان نماذج الخبراء
في نماذج «مزيج الخبراء»، يمكن لتقنية التوازي الواسع للخبراء توزيع الأوزان على عدة وحدات GPU، بدلًا من تخزين المجموعة كاملة على كل وحدة. وتعرض إنفيديا هذا الأسلوب بوصفه طريقة لتقليل ما تشغله الأوزان من ذاكرة كل GPU وإتاحة مساحة أكبر للسياق.20 ويتوقف المكسب الفعلي على النموذج وطريقة توزيع الخبراء وحجم تبادل البيانات بين الوحدات.
3. إدارة السياق على مستوى منظومة الخدمة
تصف إنفيديا Dynamo بأنها طبقة لخدمة النماذج تستطيع توجيه الطلبات مع مراعاة ذاكرة KV، وتنسيق استخدام الذاكرة المؤقتة عبر مجموعة الخوادم.20 والهدف هو إعادة استخدام السياق حين يكون ذلك ممكنًا، بدل إعادة احتسابه كل مرة. وقد يحسّن هذا كفاءة الذاكرة، لكن فائدته تعتمد على قابلية إعادة استخدام السياق وعلى كلفة العثور عليه واسترجاعه في التطبيق المعني.
4. إضافة طبقة لمعالج CPU
يدخل معالج Vera ضمن النظام الذي تقترحه إنفيديا، لا بوصفه بديلًا مباشرًا لذاكرة GPU.20 ففي تصميم متعدد الطبقات، يمكن لذاكرة CPU أن تكمل HBM عبر استيعاب بيانات لا تحتاج إلى البقاء في أسرع ذاكرة متاحة للمعالج الرسومي. لكن المواد المتاحة هنا لا توضح سياسات نقل البيانات بالتفصيل ولا نتائج هذا النهج من ناحية زمن الاستجابة.
5. تخزين إضافي للسياق
تضيف منصة CMX، المخصصة لتخزين ذاكرة السياق، طبقة تخزين إلى جانب ذاكرة GPU وCPU.20 والفكرة المعمارية هي عدم اعتبار HBM المكان الوحيد الذي يمكن أن يوجد فيه السياق. أما جدوى ذلك لتطبيق بعينه فتتوقف على كلفة نقل السياق ومتطلبات سرعة الاستجابة.
ماذا تثبت أرقام الكفاءة الكبيرة؟
تتكرر في التغطيات المتاحة مطالبة لافتة بتحقيق إنتاجية تصل إلى 30 ضعفًا، لكن طريقة عرض الرقم ليست موحدة: أحد التقارير يصفه بأنه إنتاجية مقابل الدولار، فيما يصفه ملخص آخر بأنه إنتاجية مقابل الميغاواط.19
20 وهذان مقياسان مختلفان، ولا تقدم المصادر المتاحة تفاصيل كافية لتقييم إعدادات الاختبار بصورة مستقلة أو للتحقق من النتيجة في بيئة تشغيل فعلية.
وهذا الفارق مهم: كفاءة الذاكرة لا تعني تلقائيًا أن التطبيق سيكون أسرع أو أقل كلفة. والمقارنة المفيدة تحتاج إلى احتساب جودة النموذج وزمن الاستجابة واستهلاك الطاقة والكلفة الإجمالية على عبء العمل نفسه، لا الاكتفاء برقم إنتاجية قصوى.
الخلاصة
مقترح إنفيديا هو نهج متكامل للأنظمة: ضغط الأوزان، وتوزيعها على المسرّعات، وإعادة استخدام سياق الاستدلال، وإدخال طبقات CPU والتخزين ضمن خطة الذاكرة. وتشرح هذه الخطوات الخمس كيف تسعى الشركة إلى تخفيف الضغط على HBM من دون الاعتماد على إضافة مزيد منها وحدها.20
وتدعم المواد المتاحة ملامح هذا النهج وعناصر تصميمه بوضوح أكبر من دعمها لأكبر ادعاءات الأداء. لذلك يجدر التعامل مع أرقام الكفاءة بوصفها ادعاءات إلى أن تتضح شروط الاختبار ونتائجها على أعباء عمل ممثلة للاستخدام الفعلي.
Studio Global AI
مواصلة البحث الخاص بك
تتضمن هذه الصفحة إجابة مدعومة بالمصدر يمكنك المتابعة داخل Studio Global.
يسأل الناس أيضا
ما هي الإجابة المختصرة على "كيف تريد إنفيديا أن تستفيد من كل بايت بدلًا من الاكتفاء بإضافة مزيد من الذاكرة"؟
ترى إنفيديا أن النماذج الأكبر والسياقات الأطول وتطبيقات الوكلاء تزيد الضغط على ذاكرة GPU، وتقترح جعل كل بايت أكثر فاعلية بدل الاعتماد على زيادة السعة وحدها.
ما هي النقاط الأساسية التي يجب التحقق منها أولاً؟
ترى إنفيديا أن النماذج الأكبر والسياقات الأطول وتطبيقات الوكلاء تزيد الضغط على ذاكرة GPU، وتقترح جعل كل بايت أكثر فاعلية بدل الاعتماد على زيادة السعة وحدها. تشمل الخطة NVFP4، وتوزيع أوزان نماذج الخبراء، وبرمجية Dynamo، ومعالج Vera، ومنصة تخزين السياق CMX.
ماذا يجب أن أفعل بعد ذلك في الممارسة العملية؟
تختلف صياغة تقارير «حتى 30 ضعفًا» بين الإنتاجية مقابل الدولار والإنتاجية مقابل الطاقة؛ ولا تكفي المواد المتاحة للتحقق المستقل من المقارنة أو نتائجها في الاستخدام الفعلي.