APXInf: كيف يختصر زمن انتقال الروبوت من الملاحظة إلى القرار؟

إذا تأخر قرار النموذج بعد أن يلتقط الروبوت صورةً أو قراءةً من مستشعراته، فقد يتأخر الفعل الذي يعتمد على ذلك القرار. هنا يأتي APXInf: محرك استدلال مفتوح المصدر من Infinigence AI بالتعاون مع جامعة تسينغهوا وجامعة شانغهاي جياو تونغ، صُمّم لتشغيل نماذج الذكاء الاصطناعي المجسّد على عتاد قريب من الروبوت بدل الاعتماد على تنفيذ بعيد. وهو ليس متحكّم المحركات نفسه؛ دوره تسريع إنتاج المخرجات التي يمكن لمنظومة الروبوت استخدامها لاتخاذ الفعل. 144

كيف يعمل، وأين يبحث عن السرعة؟

تتولى بيئة تشغيل صغيرة مكتوبة بلغة Rust إدارة التنفيذ والذاكرة، بينما تتيح واجهات Python استدعاء النموذج من الشيفرة المألوفة لمطوّري الروبوتات. وعند نقل نموذج إلى المحرك، يبدأ سير العمل الموثّق بنسخة مرجعية ثابتة من النموذج ومدخلات اختبار، ثم تُقارَن مخرجات النسخة المنقولة والقيم الوسيطة بمخرجات المرجع قبل الانتقال إلى تحسين الأداء. الهدف ألا يأتي التسريع على حساب صحة التنفيذ دون اكتشاف ذلك. 35

لا يعتمد خفض التأخير على حيلة واحدة: تنظيم مراحل التنفيذ يستهدف الوقت الضائع عبر مسار الاستدلال كله؛ والتقاط الرسم الحسابي وإعادة استخدام المخازن يقللان كلفة الإعداد المتكرر؛ ونوى المعالجة الرسومية المحسّنة تسرّع العمليات المكلفة. كما يمكن أن يقلل التكميم بصيغ مثل FP8 وINT8 حجم الحسابات ونقل البيانات في الذاكرة. تسعى هذه التحسينات مجتمعةً إلى جعل توليد الأفعال أسرع وأكثر قابلية للتنبؤ عند التشغيل على الروبوت. 853

ماذا تعني أرقام Jetson Thor؟

في مقارنة منشورة لنموذج π0.5 بصيغة FP8 على Jetson Thor، انخفض زمن الاستدلال من طرف إلى طرف من 278 مللي ثانية في النسخة غير المحسّنة إلى أقل من 26 مللي ثانية باستخدام APXInf: تحسّن يقارب 10.7 أضعاف. وتورد المقارنة معدل 38.46 عملية استدلال في الثانية، مقابل نحو 3.6 عمليات في الثانية يقابلها زمن 278 مللي ثانية. هذه وتيرة استدلال النموذج، وليست إثباتًا بأن المسار الكامل من المستشعر إلى المشغّل يعمل بالمعدل ذاته على كل روبوت. 86

وهناك تفصيل مهم لمن يريد تقييم الأداء عمليًا: جدول الاختبارات في مستودع المشروع يورد، لاختبار π0.5 بصيغة FP8 على Jetson AGX Thor، زمنًا قدره 41.16 مللي ثانية ومعدل 24.3 عملية استدلال في الثانية. وتظهر أيضًا قيمة 46 هرتز في موضع من بعض التغطيات، بينما ترد 38.46 هرتز في موضع آخر. لذلك فقراءة «أقل من 26 مللي ثانية» بوصفها نتيجة المقارنة المنشورة أدق من تقديمها رقمًا ثابتًا لكل تشغيل؛ وينبغي التحقق من إعداد الاختبار قبل مقارنة القياسات المختلفة. 568

النماذج والتكامل: ما المتاح وما المخطط له؟

تذكر تغطية الإطلاق نموذجي π0.5 وWALL-OSS، وعتاد RTX 4090 وJetson Orin وJetson Thor. ويصف المستودع بصورة أضيق مسارًا شديد التحسين لـπ0.5 على Thor وOrin، مع خيارات دقة تشمل BF16 وFP8 وINT8؛ لذا لا تعني قائمة الأجهزة والنماذج أن كل توليفة منها تتمتع بالتحسينات نفسها. 45

يمثل APXInf جانب الاستدلال والنشر ضمن منظومة RLinf. وتوثّق RLinf تقييمًا مسرّعًا لنموذج π0.5 مع الإبقاء على تحويلات OpenPI، فيما توفر الحزمة الموجّهة للروبوت خادم WebSocket متوافقًا مع واجهة OpenPI. المقصود توافق طريقة الاتصال، لا أن كل نسخة نموذج من OpenPI نُقلت بالفعل إلى APXInf. 51

تشمل الخطط المعلنة التوسع إلى نماذج الرؤية واللغة والفعل VLA، ونماذج الرؤية واللغة VLM، ونماذج العالم، مع العمل على تكييف Qwen وGR00T، إلى جانب عتاد وواجهات تشغيل إضافية. لكنها خطط وليست ضمانًا للدعم الحالي. وقبل اعتماد المحرك على روبوت بعينه، يلزم إعادة القياس باستخدام نسخة النموذج والدقة والعتاد وحدود الطاقة الفعلية: فتسارع الاستدلال وحده لا يثبت نجاح المهمة في دورة تحكم مغلقة أو استمرار الأداء تحت قيود الحرارة والطاقة. 95