答え公開済み19 ソース
APXInfとは？ ロボット上のAI推論を速める仕組みと「26ミリ秒」の読み方
APXInfは、Infinigence AI、清華大学、上海交通大学が公開した、ロボット上で身体性AIモデルを動かすための推論エンジン。[14][4] 発表された比較では、Jetson Thor上のπ0.5・FP8推論が、最適化前の278ミリ秒から26ミリ秒未満に短縮された。ただし、この値はロボット全体の制御周期を示さない。[8][9] 公開リポジトリには別の測定値も載っている。性能を比較するときは、モデル、精度、機器、測定条件をそろえる必要がある。[5][8]
公開者GPT-6 Sol で編集GPT Image 2 で画像を生成
研究の答え
重要なポイント
- APXInfは、Infinigence AI、清華大学、上海交通大学が公開した、ロボット上で身体性AIモデルを動かすための推論エンジン。[14][4]
- 発表された比較では、Jetson Thor上のπ0.5・FP8推論が、最適化前の278ミリ秒から26ミリ秒未満に短縮された。ただし、この値はロボット全体の制御周期を示さない。[8][9]
- 公開リポジトリには別の測定値も載っている。性能を比較するときは、モデル、精度、機器、測定条件をそろえる必要がある。[5][8]
AI プロンプト
openai.comCreate a landscape editorial hero image for this Studio Global article: What is APXInf, the open source embodied edge inference engine released by Infinigence AI with Tsinghua University and Shanghai Jiao Tong Un. Article summary: APXInf is an open source inference engine from Infinigence AI, Tsinghua University, and Shanghai Jiao Tong University for running embodied AI policies close to a robot’s sensors and actuators.. Topic tags: general web, llm, agents, ai, workflow. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thum
ロボットが周囲を観測してから次の動作を決めるまでには、AIモデルの推論時間がかかる。APXInfは、その推論をロボット側の計算機で速く動かすため、Infinigence AIが清華大学、上海交通大学と公開したオープンソースのエンジンだ。モデルが動作を生成するまでの遅れを縮めるもので、モーターを直接制御する装置そのものではない。14
4
何を速くするのか
APXInfは、実行とメモリー管理を担う小規模なRust製ランタイムに、既存のロボット開発コードからモデルを呼び出せるPythonインターフェースを組み合わせる。モデルの移植では、基準となるチェックポイントとテスト入力を固定し、出力や途中の計算値を元の実装と照合してから最適化する手順が示されている。3
5
高速化は一つの技術だけによるものではない。パイプラインの調整で推論経路全体の待ち時間を減らし、計算グラフの再利用やバッファーの使い回しで繰り返し発生する準備作業を抑える。さらに、負荷の高い処理には調整済みのGPUカーネルを使い、FP8やINT8への量子化で計算量とメモリー転送量を減らす。狙いは、ロボット上での動作生成を速く、安定して繰り返せるようにすることだ。8
5
「278ミリ秒から26ミリ秒未満」は何の数字か
発表時の比較では、Jetson Thor上でπ0.5をFP8精度で動かした場合、エンドツーエンドの推論遅延が最適化前の278ミリ秒から26ミリ秒未満になったとされる。約10.7倍の短縮に相当し、示された推論頻度は毎秒38.46回。278ミリ秒から換算した最適化前の頻度は毎秒約3.6回だ。8
9
ただし、毎秒38.46回は推論の頻度であり、カメラの取得からモーターの動作までを含むロボット全体の制御周期ではない。一部の記事には「46 Hz」という記述もあるが、同じ記事内を含め、26ミリ秒前後と整合する38.46 Hzという記述が繰り返されている。6
8
9
数値の扱いには、もう一つ注意が要る。公開リポジトリのベンチマーク表には、Jetson AGX Thor・FP8で41.16ミリ秒、24.3 Hzという別の値が掲載されている。発表時の「26ミリ秒未満」と同一条件の測定値として混同せず、比較には使用した構成と測定条件の確認が必要だ。5
8
対応範囲と今後
発表時に挙げられたモデルはπ0.5とWALL-OSS、機器はRTX 4090、Jetson Orin、Jetson Thor。一方、公開リポジトリが初期版の高度に最適化された経路として明示するのは、ThorとOrin向けのπ0.5で、BF16、FP8、INT8の選択肢がある。2
5
APXInfはRLinfのエコシステムでは推論・配備を担う。ロボット向けパッケージにはOpenPI互換のWebSocketサーバーも用意されているが、これは接続インターフェースの互換性であり、すべてのOpenPIチェックポイントが移植済みという意味ではない。5
1
今後はVLA（視覚・言語・動作モデル）、VLM（視覚言語モデル）、世界モデルへの対応を広げ、QwenとGR00Tの適合を進めるほか、計算基盤やバックエンドの拡充も計画されている。これらは現時点での対応保証ではない。9
APXInfの発表値を別のチェックポイント、数値精度、機器や消費電力の上限にそのまま当てはめることはできない。実際の導入判断には、対象ロボットの電力・温度条件で推論を測り直し、動作を繰り返す実運用での性能も確かめる必要がある。5
8
Studio Global AI
研究を続けてください
このページにはソースに裏付けされた回答が含まれており、Studio Global 内で続行できます。
人々も尋ねます
「APXInfとは？ ロボット上のAI推論を速める仕組みと「26ミリ秒」の読み方」の短い答えは何ですか?
APXInfは、Infinigence AI、清華大学、上海交通大学が公開した、ロボット上で身体性AIモデルを動かすための推論エンジン。[14][4]
最初に検証する重要なポイントは何ですか?
APXInfは、Infinigence AI、清華大学、上海交通大学が公開した、ロボット上で身体性AIモデルを動かすための推論エンジン。[14][4] 発表された比較では、Jetson Thor上のπ0.5・FP8推論が、最適化前の278ミリ秒から26ミリ秒未満に短縮された。ただし、この値はロボット全体の制御周期を示さない。[8][9]
次の実践では何をすればいいでしょうか？
公開リポジトリには別の測定値も載っている。性能を比較するときは、モデル、精度、機器、測定条件をそろえる必要がある。[5][8]