XiaomiのMiMo-V2.6学習ダッシュボードを読む：30ステップ、約347万ドルの内訳

Xiaomiが公開したMiMo-V2.6のダッシュボードは、ProとFlashという2モデルの**学習後の強化学習（RL）**を、進行中の数値とともに見せるものだった。完成後のモデルや最終スコアだけでなく、学習の進み具合や費用の推移まで追える点が特徴だ。ただし、これはXiaomiが公開した2件の学習実行の記録であり、事前学習や計算基盤上の全作業を見渡せる窓ではない。118

画面の「ステップ」は何を数えていたのか

ダッシュボードには、完了した学習ステップ、進行中のロールアウト（モデルに課題を試させる処理）、処理トークン数、報酬の推移、課題の成功率、処理時間、累積費用、途中段階のコーディング評価が表示された。ロールアウトは学習の更新処理と非同期で進むため、学習ステップとロールアウトのステップ番号は必ずしも一致しない。11822

運用上のトラブルも一部見えていた。報道では再起動、GPUのメモリー不足、データセットの問題が取り上げられている。また、ダッシュボードの指標定義は、課題を解けなかった場合と、インフラの不具合で試行が失われた場合を区別している。ただし、起きた障害がすべて公開されたとまでは言えない。1823

ある初期の記録では、両モデルの学習が10ステップ目まで完了した一方、ロールアウトは16ステップ目に入っていた。その時点で報告された1ステップ当たりのトークン量はProが約22億、Flashが約26億。累積費用はそれぞれ約74万1,000ドル、約32万2,000ドルだった。いずれもその時点の観測値であり、最終費用や一定のペースで続く日額ではない。25

1回の更新で約2万5,000件の試行

各ステップでは1,568件の課題を用意し、それぞれ16回試行する。掛け合わせると、1ステップ当たり**最大25,088件の軌跡（試行の記録）**になる。モデルによる回答生成や課題の実行を、採点・モデル更新と並行させる非同期方式が使われた。課題もコーディングだけではなく、一般的なエージェント作業、画像を扱う作業、サイバーセキュリティーなどにまたがり、複数の実行・評価環境（ハーネス）を組み合わせていた。41019

採点は単純な正誤判定だけではない。Xiaomiが説明する方式では、実行可能なテストの結果に、課題ごとの評価基準や同じ課題に対する試行同士の比較を組み合わせる。テストに通った回答同士でも品質に差を付けられる一方、採点そのものにも計算資源が必要だ。技術報告の解説によると、採点はProの強化学習費用の約12.7％を占めた。4447

初期に使われた「1ステップ約20億トークン」という説明も、固定の上限ではなく規模感を示す数字だ。後の報告には、これを上回るステップ当たりの処理量が記されている。41920

報酬、DeepSWE、費用をどう読むか

学習の「報酬」は、そのステップのモデル更新に使われた試行への評価であり、独立した能力試験の結果ではない。例えば dynsam/avg@n は、抽出した各課題について複数回の試行が成功した割合を求め、それを課題間で平均した値だ。dynsam/avg@n_no_infra はインフラ障害による失敗を除いて計算する。両者を見比べれば、実行環境の不調をモデルの失敗と取り違えにくくなるが、どちらもあらゆる課題での性能を表すわけではない。18

ソフトウエア開発の課題を評価するDeepSWE v1.1では、先の初期記録にProが62.24、Flashが60.77とある。これは学習途中のモデルの評価値だ。Xiaomiが後に報告した最終段階の値はProが約72.6、Flashが約65.7。ただし、これらもXiaomiの評価条件に基づく数字として読むべきで、独立に再現された公開ランキングの結果と同一視はできない。251745

Xiaomiによると、両モデルは6日未満でそれぞれ30ステップを終えた。報告された強化学習費用はProが約262万ドル、Flashが約85万ドルで、合計は約347万ドルだ。「約75万件の軌跡」は、両モデルを合わせた数ではなく各モデルについての規模と読むのが計算に合う。25,088件×30ステップ＝752,640件となるためだ。これらは報告された強化学習の費用であり、事前学習やその他すべての開発費を含むものではない。244445

公開されたこと、なお見えないこと

今回の特徴は、完成したモデルだけでなく、学習中の時系列データや運用上の情報を公開した点にある。その後Xiaomiは、ProとFlashのモデル重み、9Bの蒸留モデル、技術報告、7,000件以上の強化学習用課題環境、学習フレームワークなどの公開を発表した。115

一方、利用できる資料だけでは、ダッシュボードが中断も選別もない形で常時更新されていたか、同じ計算基盤でほかに何が動いていたかを独立に確認することはできない。9Bの蒸留モデルが公開されたことも、その作業が表示中のPro／Flashの学習の背後で行われた、あるいは両モデルの報告費用に含まれていた、という証拠にはならない。18152