AnswersPublished19 sources
APXInf: מנוע ההסקה שמנסה לקרב את החלטות הבינה המלאכותית לרובוט
APXInf הוא מנוע הסקה בקוד פתוח של Infinigence AI, אוניברסיטת צינגחואה ואוניברסיטת ג'יאו טונג בשנגחאי. בפרסום על π0.5 בדיוק FP8 על Jetson Thor דווח על ירידה מ־278 אלפיות השנייה לפחות מ־26 אלפיות השנייה להסקה מקצה לקצה, ועל קצב של 38.46 הסקות בשנייה.
פורסם על ידינערך באמצעות GPT-6 Solהתמונות נוצרו באמצעות GPT Image 2
Research answer
Key takeaways
- APXInf הוא מנוע הסקה בקוד פתוח של Infinigence AI, אוניברסיטת צינגחואה ואוניברסיטת ג'יאו טונג בשנגחאי.
- בפרסום על π0.5 בדיוק FP8 על Jetson Thor דווח על ירידה מ־278 אלפיות השנייה לפחות מ־26 אלפיות השנייה להסקה מקצה לקצה, ועל קצב של 38.46 הסקות בשנייה.
- מאגר הפרויקט מציג גם מדידת FP8 אחרת על Jetson AGX Thor: 41.16 אלפיות השנייה ו־24.3 הסקות בשנייה.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What is APXInf, the open source embodied edge inference engine released by Infinigence AI with Tsinghua University and Shanghai Jiao Tong Un. Article summary: APXInf is an open source inference engine from Infinigence AI, Tsinghua University, and Shanghai Jiao Tong University for running embodied AI policies close to a robot’s sensors and actuators.. Topic tags: general web, llm, agents, ai, workflow. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thum
כשרובוט מקבל תמונה מהמצלמה, הוא צריך להפיק ממנה פעולה בזמן שימושי. APXInf הוא מנוע הסקה בקוד פתוח שפרסמו Infinigence AI, אוניברסיטת צינגחואה ואוניברסיטת ג'יאו טונג בשנגחאי, כדי להריץ מודלים של בינה מלאכותית גופנית על חומרה הקרובה לרובוט. תפקידו לקצר את הדרך מתצפית לפעולה שהמודל מציע; הוא אינו בקר המנועים של הרובוט. 14
4
מה קורה בין הקוד של המפתח לפעולה של המודל?
בליבת APXInf נמצאת סביבת הרצה מצומצמת ב־Rust, שמטפלת בביצוע ובמשאבי הזיכרון. מעליה יש ממשקי Python, כך שמפתחים יכולים להפעיל מדיניות פעולה מתוך סביבת תוכנה מוכרת ברובוטיקה, בלי לנהל בעצמם כל פרט של ההרצה ברמת החומרה. בתהליך העברת מודל למנוע, מתחילים מנקודת ביקורת של מודל קיים ומקלטי בדיקה קבועים, משווים את הפלט ואת ערכי הביניים לגרסת הייחוס, ורק אז מבצעים אופטימיזציה. הבדיקה הזאת חשובה: מהירות אינה מועילה אם המודל שהועבר מפיק פעולות שונות מאלה שציפו להן. 3
5
1
השיפור המבוקש אינו נשען על שינוי אחד. תזמון הצינור (pipeline) מטפל בהמתנות בין שלבי ההסקה; לכידת גרף והרצה חוזרת שלו, לצד שימוש חוזר במאגרי זיכרון, מצמצמות עבודת הכנה שחוזרת בכל קריאה; ליבות חישוב מותאמות ל־GPU מאיצות פעולות יקרות; וקוונטיזציה לפורמטים כגון FP8 או INT8 עשויה להפחית את כמות החישוב ואת תעבורת הזיכרון. המטרה היא לא רק הסקה מהירה, אלא זמן תגובה צפוי יותר בעת שימוש על הרובוט. 8
5
1
כמה מהיר זה על Jetson Thor?
לפי השוואת הביצועים שפורסמה עבור π0.5 ב־FP8 על Jetson Thor, השהיית ההסקה מקצה לקצה ירדה מ־278 אלפיות השנייה בגרסה לא ממוטבת ל־פחות מ־26 אלפיות השנייה — קיצור של בערך פי 10.7. בפרסום מצוין קצב של 38.46 הסקות בשנייה, לעומת כ־3.6 הסקות בשנייה שמשתמעות מהשהיה של 278 אלפיות השנייה. הקצב הזה מתייחס להסקת המודל, לא מוכיח שהמסלול המלא מחיישן, דרך המודל ועד להפעלת הרובוט פועל ב־38.46 הרץ בכל מערכת. 8
6
כדאי לשים לב לפער בנתונים הגלויים: בטבלת הביצועים שבמאגר הפרויקט מופיעים עבור Jetson AGX Thor ו־FP8 דווקא 41.16 אלפיות השנייה ו־24.3 הסקות בשנייה. מהמידע המובא כאן אי אפשר לקבוע שתנאי שתי המדידות זהים, ולכן לא נכון להציג את נתון ה־26 אלפיות השנייה כתוצאה מובטחת של כל הרצה. בחלק מהדיווחים מופיע גם המספר 46 הרץ, לצד 38.46 הרץ; בהשוואה המבוססת על 26 אלפיות השנייה, 38.46 הוא הנתון העקבי יותר מתמטית. 5
6
8
במה אפשר להשתמש היום, ומה עוד בתכנון?
בדיווחי ההשקה נמנו המודלים π0.5 ו־WALL-OSS והפלטפורמות RTX 4090, Jetson Orin ו־Jetson Thor. מאגר הפרויקט מדגיש במיוחד מסלול ממוטב ל־π0.5 על Thor ו־Orin, עם אפשרויות דיוק BF16, FP8 ו־INT8. APXInf משמש בצד ההסקה והפריסה של סביבת RLinf; חבילת הרובוט מציעה גם שרת WebSocket תואם לממשק OpenPI. תאימות לממשק אינה אומרת שכל נקודת ביקורת של OpenPI כבר הותאמה למנוע. 2
5
1
מפת הדרכים כוללת הרחבה למודלי VLA — מודלים המקשרים ראייה, שפה ופעולה — למודלי ראייה־שפה ולמודלי עולם. Qwen ו־GR00T צוינו כמודלים הנמצאים בתהליך התאמה, לצד עבודה מתוכננת על פלטפורמות ומנגנוני הרצה נוספים. אלה תוכניות, לא הבטחה לתמיכה זמינה כעת. 9
5
השורה התחתונה: APXInf מטפל בצוואר בקבוק חשוב בדרך ממודל רובוטי עובד למערכת שמגיבה במהירות על גבי הרובוט. אבל לפני שמסיקים מהמדידה על Thor מסקנות לגבי רובוט מסוים, צריך לבדוק מחדש את אותה נקודת ביקורת, רמת דיוק, חומרה ומגבלות הספק. מהירות הסקה לבדה אינה מוכיחה הצלחה במשימה במעגל בקרה סגור, או ביצועים רציפים תחת מגבלות חום וחשמל. 5
8
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "APXInf: מנוע ההסקה שמנסה לקרב את החלטות הבינה המלאכותית לרובוט"?
APXInf הוא מנוע הסקה בקוד פתוח של Infinigence AI, אוניברסיטת צינגחואה ואוניברסיטת ג'יאו טונג בשנגחאי.
What are the key points to validate first?
APXInf הוא מנוע הסקה בקוד פתוח של Infinigence AI, אוניברסיטת צינגחואה ואוניברסיטת ג'יאו טונג בשנגחאי. בפרסום על π0.5 בדיוק FP8 על Jetson Thor דווח על ירידה מ־278 אלפיות השנייה לפחות מ־26 אלפיות השנייה להסקה מקצה לקצה, ועל קצב של 38.46 הסקות בשנייה.
What should I do next in practice?
מאגר הפרויקט מציג גם מדידת FP8 אחרת על Jetson AGX Thor: 41.16 אלפיות השנייה ו־24.3 הסקות בשנייה.