تفشل خطط الإمساك الثابتة عندما تتحرك الأجسام أو عندما يكون تقدير الروبوت الأولي غير دقيق بعض الشيء. يقوم Grasp-MPC بتصحيح حركة الروبوت باستمرار أثناء اقترابه من الجسم. ولّد الباحثون مليوني مسار محاكاة عبر 8000 جسم باستخدام قاعدة بيانات GraspGen ومكتبة cuRobo، وهي مكتبة توليد حركة مسرّعة بتقنية CUDA. على الروبوتات الحقيقية، حقق نجاحًا إجماليًا في الإمساك بنسبة ~75% مقابل 41% لخط الأساس .
التحكم في المواد المرنة والمتشابكة – كالأغصان فوق خطوط الكهرباء – يتطلب أكثر من مجرد ماسك دقيق. درّب باحثو إنفيديا سياسات لاستخدام الذراع بالكامل لإزاحة العناقيد جانبًا، باستخدام آلاف الأشجار الاصطناعية في أطر محاكاة Isaac. النتيجة: نُشرت السياسات مباشرة على أغصان حقيقية دون أي تدريب إضافي .
يمكن للمشتتات في تغذية كاميرا الروبوت أن تُفشل حتى سياسات التحكم المدربة جيدًا. يستخدم PEEK نموذج رؤية ولغة لقراءة تعليمات المهمة وتركيز رؤية الروبوت على الأشياء ذات الصلة مع إخفاء كل شيء آخر. عند إضافته إلى سياسة دُرّبت بالكامل في المحاكاة، حقق PEEK تحسنًا في الدقة في العالم الحقيقي بمقدار 41 ضعفًا. بالنسبة لنماذج الرؤية واللغة والحركة (VLA) الكبيرة، تراوحت المكاسب بين 2 و3.5 ضعف. يتكامل PEEK مع أي سياسة تعتمد على الكاميرا دون تعديل .
إطار SEAL – وهو تعاون مع جامعة كارنيغي ميلون وجامعة يوتا وجامعة سيدني – يعالج نمط فشل شائعًا بشكل خادع: النموذج يستنتج بشكل صحيح ويختار الخطة الصحيحة، لكنه ينفذ شيئًا مختلفًا. يولد SEAL عدة تسلسلات عمل مرشحة، ويحاكي إلى أين يؤدي كل منها، ويختار التسلسل الذي يطابق النية المعلنة بشكل أفضل. يحقق تحسنًا في الدقة يصل إلى 15% مقارنة بالأعمال السابقة، وهو قوي في مواجهة التعليمات المعاد صياغتها، والفوضى، وزوايا الكاميرا المتغيرة .
في التجميعات متعددة الأجزاء، نتيجة كل خطوة تشكل الخطوة التالية. تدرب Refinery سياسات تفهم هذه التبعيات، وتتعلم عبر مئات السيناريوهات المحاكاة. يحقق نجاحًا بنسبة 91% في المحاكاة وتحسنًا متوسطًا يقارب 11% مقارنة بخطوط الأساس، مع سياسات تتسلسل معًا لتكوين تسلسلات تجميع طويلة ومعقدة .
وصفة منفصلة للتعلم المعزز القائم على الرؤية ونقله من المحاكاة إلى الواقع درّبت روبوتًا بشريًا على مهام الإمساك والوصول، ورفع الصناديق، والتسليم باليدين. أظهرت هذه المقاربة معدلات نجاح عالية على أجسام غير مرئية مع سلوكيات تكيفية وقوية – مما يؤكد أن التحكم البشري المعقد القائم على الرؤية عبر التعلم المعزز ونقله إلى الواقع ليس قابلاً للتطبيق فحسب، بل هو أيضاً قابل للتوسع .
تستند الأوراق البحثية الثمانية إلى عدة منصات متكاملة من إنفيديا تحول المحاكاة إلى بيئة تطوير عملية ومتكاملة:
قام معهد تويوتا للأبحاث (TRI) بتخصيص نماذج عالم NVIDIA Cosmos التأسيسية لتوليف الرؤية الديناميكي والتحكم عن بُعد في الروبوت، مما قلل من كمية البيانات الواقعية اللازمة لتدريب سياسات التحكم القائمة على الرؤية .
طورت Mimic Robotics نموذج فيديو-حركة باستخدام منصات إنفيديا يحقق كفاءة عينات أفضل بـ 10 مرات وتقاربًا أسرع بمرتين في مهام التحكم في العالم الحقيقي، مما يقلص بشكل كبير عدد العروض الواقعية المكلفة المطلوبة .
تستخدم Doosan NVIDIA Cosmos Reason للسماح لروبوتات تنظيم المنصات النقالة بتحليل محتويات الصناديق، واكتشاف التلف، وتعديل التعامل بناءً على الوزن وقابلية الكسر – مما يتيح اتخاذ قرارات مراعية للسياق دون الحاجة إلى بيانات تدريب واقعية مرهقة .
وضعت إنفيديا هذا الكم من العمل في إطار تحول جوهري في صناعة الروبوتات:
"تدخل الروبوتات مرحلة جديدة: الانتقال من العروض التوضيحية الخاضعة للتحكم والأتمتة المبرمجة نحو استقلالية ذاتية متجسدة قابلة للتعميم وموثوقة في العالم الحقيقي"
.
لم يعد نقل التعلم من المحاكاة إلى الواقع مجرد فضول أكاديمي. تُظهر أوراق ICRA الثمانية أنها تعالج المجموعة الكاملة من التحديات: التنسيق المتوازي متعدد الأذرع، وتعميم السياسات عبر الأجسام المختلفة، والإمساك بالأجسام الجديدة في الفوضى، والتحكم في المواد القابلة للتشوه دون تدريب مسبق، والتجميع التسلسلي الدقيق، ونماذج الرؤية واللغة والحركة التي تستنتج قبل أن تتحرك . الرسالة واضحة: التدريب القائم على المحاكاة – بدلاً من الاعتماد على كميات هائلة من العروض البشرية في العالم الحقيقي – هو المسار القابل للتوسع نحو روبوتات تعمل بقوة في بيئات غير منظمة وديناميكية.