Google TPU أم NVIDIA H100 GPU؟ كيف تختار مسرّع الذكاء الاصطناعي؟

الخلاصة السريعة

• اختر Google TPU إذا كان عبء العمل تعلمًا عميقًا في الأساس، وكان النموذج يتوافق جيدًا مع تنفيذ TPU، وكان الفريق مرتاحًا لأساليب التوسع الموجهة للـTPU. توثق مواد JAX الخاصة بالتوسع طوبولوجيا عناقيد TPU، وذاكرة HBM لكل شريحة، وعرض الحزمة، وأرقام BF16 وINT8 لأجيال v5e وv5p وv6e .
• اختر NVIDIA H100 GPU إذا كنت تحتاج دعمًا أوسع للدقات الرقمية، أو تشغّل أعباء عمل متنوعة، أو تريد تقليل مخاطر الانتقال من منظومة مبنية أصلًا حول GPU. تعرض NVIDIA لـH100 SXM دعم FP64 وFP32 وTF32 Tensor Core وBF16/FP16 Tensor Core وFP8 Tensor Core وINT8 Tensor Core، مع 80GB من HBM3 وعرض حزمة 3.35TB/s .
• اختبر الاثنين إذا كانت الكلفة هي العامل الحاسم. المواصفات القصوى، وسعر الشريحة في الساعة، وادعاءات المورّدين لا تعوّض قياس الكلفة لكل خطوة تدريب مفيدة أو لكل رمز استدلال على نموذجك أنت.

التخصص في مقابل المرونة

ميزة TPU الأساسية أنها متخصصة. هذا التخصص قد يكون قويًا جدًا عندما تكون العمليات عبارة عن مصفوفات وتنسورات كبيرة ومنتظمة، وعندما يستطيع المترجم وتوزيع العمل إبقاء الشرائح مشغولة بكفاءة . في هذه الحالة، لا تكون المقارنة مجرد رقم نظري على الورق، بل قدرة فعلية على تشغيل النموذج بأقل هدر ممكن.

أما H100 فيسلك طريقًا أوسع. هو مصمم بقوة لأعباء الذكاء الاصطناعي عبر Tensor Cores، لكنه لا يقتصر على مسار واحد؛ فجدول H100 SXM العام يتضمن أداء FP64 وFP32 التقليديين إضافة إلى أنماط Tensor Core الأقل دقة مثل TF32 وBF16/FP16 وFP8 وINT8 . هذه المرونة مهمة إذا كان نفس التجمع الحاسوبي سيخدم تجارب مختلفة، أو نماذج بمتطلبات دقة متباينة، أو أعباء لا تشبه بعضها تمامًا.

المواصفات العامة: مفيدة، لكنها ليست اختبار أداء

الجداول العلنية تساعدك على فهم اتجاه المفاضلة، لكنها لا تصلح وحدها كحكم نهائي. فجدول TPU وجدول GPU قد يستخدمان دقات حسابية مختلفة، وافتراضات نظام مختلفة، ومسارات توسع مختلفة.

توضح Google Cloud أيضًا أن عائلات A3 يمكن أن تأتي مع 1 أو 2 أو 4 أو 8 وحدات NVIDIA H100، مع 80GB من HBM3 لكل GPU . كما تعرض مواد AI Hypercomputer من Google Cloud كلًا من TPUs وأجهزة A3 العاملة بـH100 ضمن محفظة بنية تحتية واحدة للذكاء الاصطناعي . بمعنى آخر: داخل Google Cloud نفسها، قد لا يكون القرار «TPU أم GPU في مزود آخر»، بل قد يكون اختيارًا بين مسارين متاحين في البيئة نفسها.

متى يكون Google TPU الخيار الأقوى؟

ضع TPU في أعلى القائمة عندما يتحول التخصص إلى ميزة لا إلى قيد. غالبًا ما يكون ذلك منطقيًا إذا:

• كان العمل تدريبًا أو استدلالًا في التعلم العميق، ومهيمنًا عليه بعمليات تنسورية كبيرة .
• كانت أشكال التنسورات، وحجم الدفعات، وأنماط التقسيم والتوزيع مستقرة بما يكفي لضبطها على TPU.
• كان الفريق مستعدًا للعمل وفق ممارسات التوسع الخاصة بـTPU؛ فوثائق JAX تتعامل مع حجم العنقود، وحجم المضيف، وسعة HBM، وعرض الحزمة، وإنتاجية BF16/INT8 كأبعاد تخطيط أساسية .
• كانت Google Cloud هي بيئة النشر المقصودة أصلًا.
• كان الهدف التجاري هو أفضل كلفة مقابل أداء لمجموعة ضيقة من النماذج، لا أقصى قابلية نقل بين أنواع كثيرة من الأعباء.

قد يكون TPU جذابًا عندما يبقي عبء العمل الشرائح مشغولة ويتجنب عمليات نقل أو إعادة كتابة مكلفة. لكن هذه نتيجة مرتبطة بعبء العمل، وليست صفة عامة تنطبق على كل مشروع. نشرت Google مادة عن الأداء مقابل الدولار في استدلال الذكاء الاصطناعي على GPUs وTPUs، وهو ما يعزز فكرة أن اقتصاديات الخدمة تعتمد على النموذج والإعداد، لا على ترتيب عالمي ثابت للمسرّعات .

متى يكون NVIDIA H100 GPU الخيار الأقوى؟

يميل H100 إلى أن يكون الخيار الأكثر أمانًا عندما تكون المرونة أهم من التخصص. يكون ذلك واضحًا خصوصًا إذا:

• كنت تحتاج دقات أعلى مثل FP64 أو FP32 إلى جانب أنماط Tensor Core الأقل دقة؛ فجدول H100 SXM يتضمن FP64 وFP32 وTF32 وBF16 وFP16 وFP8 وINT8 .
• كانت قاعدة الشيفرة الحالية تعتمد على نوى حسابية أو مكتبات أو أدوات تشغيل موجهة للـGPU.
• كان نفس تجمع العتاد سيخدم عدة أنواع من الأعباء، لا عائلة نماذج ضيقة فقط.
• كنت تريد أشكال أجهزة H100 على Google Cloud؛ إذ توثق Google Cloud أنواع A3 مع 1 أو 2 أو 4 أو 8 وحدات H100 متصلة .
• كانت مخاطر الانتقال، وإعادة الاختبار، وتعديل المراقبة والنشر أهم من مكسب نظري في كفاءة الشريحة.

أقوى حجة لصالح H100 ليست أنه يتفوق على كل شريحة TPU في كل معيار. الحجة الأهم أنه منصة أوسع عندما تتغير المتطلبات أو تتسع أنواع النماذج.

الكلفة: لا تقارن سعر الساعة وحده

المقارنات السعرية جذابة، لكنها قد تكون مضللة. أدرجت مقارنة من طرف ثالث Google Cloud TPU v5e عند نحو 1.20 دولار لكل شريحة/ساعة، ومثال Azure ND H100 v5 عند نحو 12.84 دولار لكل ساعة GPU من نوع H100 بسعة 80GB . لكن هذه مقارنة غير رسمية وبين مزودين سحابيين مختلفين، لذا تصلح كإشارة أولية لا كاستنتاج عام بأن TPU أرخص دائمًا.

الأفضل أن تقيس الكلفة كنظام كامل:

1. الإنتاجية المفيدة: خطوات تدريب في الثانية، عينات في الثانية، رموز في الثانية، أو زمن استجابة عند حجم الدفعة المستهدف.
2. نمط الدقة: أرقام FP8 وBF16 وFP16 وTF32 وFP32 وFP64 وINT8 ليست قابلة للاستبدال مباشرة .
3. سعة الذاكرة وعرض الحزمة: النماذج الكبيرة، والسياقات الطويلة، وحجم الدفعة قد تنقل عنق الزجاجة بعيدًا عن ذروة الحوسبة النظرية .
4. سلوك التوسع: طوبولوجيا عناقيد TPU وتكوينات أجهزة H100 تؤثر في تصميم التدريب والاستدلال الموزع .
5. معدل الاستخدام: المسرّعات الخاملة مكلفة حتى لو بدا سعرها في الساعة جيدًا.
6. كلفة الهندسة: النقل، وضبط المترجم، وتصحيح الأخطاء، والمراقبة، وتغييرات النشر قد تلتهم أي وفر في سعر الشريحة.

المقياس العملي هو الكلفة لكل مخرج مفيد: لكل خطوة تدريب، أو لكل نموذج يصل إلى التقارب، أو لكل رمز استدلال، أو لكل هدف زمن استجابة.

مصفوفة قرار مختصرة

الخلاصة

تعامل مع TPU بوصفه مسرّعًا أكثر تخصصًا للذكاء الاصطناعي، ومع H100 بوصفه منصة مسرّعات أكثر مرونة. إذا كان نموذجك مناسبًا لـTPU، ومتمحورًا حول التعلم العميق، ومتجهًا أصلًا إلى Google Cloud، فقد يكون TPU رهانًا أفضل في الكلفة مقابل الأداء. أما إذا كنت تحتاج دقات رقمية أوسع، أو أعباء عمل مختلطة، أو استمرارًا تشغيليًا لمنظومة GPU، أو تقليلًا لمخاطر الانتقال، فغالبًا ما يكون NVIDIA H100 GPU هو الخيار الافتراضي الأكثر أمانًا .

الإجابة النهائية الموثوقة لا تأتي من جدول مواصفات فقط، بل من اختبار خاص بعبء عملك يقيس الإنتاجية، وسلوك الذاكرة، ومعدل الاستخدام، والكلفة الإجمالية، والجهد الهندسي على النموذج الذي ستدرّبه أو تخدمه بالفعل.