答え公開済み21 ソース
Wan動画生成を最大265倍高速化する「SparkDiffusion」とは
SparkDiffusionは疎な注意機構、少ステップ蒸留、FP8融合カーネルを組み合わせ、特定のWan 2.1ベンチマークで最大約265倍の高速化を報告しています。[6][8] 「高スパース率の落とし穴」とは、学習中の損失が下がっても、最終的な動画の品質が頭打ちになったり悪化したりする現象です。[18] 公開済みチェックポイントはWan 2.1とWan 2.2の一部構成が対象で、対応するスパース率や推論ステップ数はモデルごとに異なります。[9][10][11][12]
公開者GPT-6 Luna で編集GPT Image 2 で画像を生成
研究の答え
重要なポイント
- SparkDiffusionは疎な注意機構、少ステップ蒸留、FP8融合カーネルを組み合わせ、特定のWan 2.1ベンチマークで最大約265倍の高速化を報告しています。[6][8]
- 「高スパース率の落とし穴」とは、学習中の損失が下がっても、最終的な動画の品質が頭打ちになったり悪化したりする現象です。[18]
- 公開済みチェックポイントはWan 2.1とWan 2.2の一部構成が対象で、対応するスパース率や推論ステップ数はモデルごとに異なります。[9][10][11][12]
AI プロンプト
openai.comCreate a landscape editorial hero image for this Studio Global article: How does the open-source SparkDiffusion framework from Peking University, Tsinghua University and Alibaba accelerate Wan 2.1 and Wan 2.2 vid. Article summary: SparkDiffusion speeds up Wan video generation by combining three changes: it computes far less attention, distils generation into a few steps, and runs the resulting model with FP8 fused kernels. The researchers report u. Topic tags: general, academic, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, char
北京大学、清華大学、アリババの研究者らが公開した「SparkDiffusion」は、動画生成モデルWan 2.1／2.2の推論を高速化するフレームワークです。注意計算を減らし、生成ステップを少なくし、残る計算を効率よく実行する手法を組み合わせています。6
8
報告された最大の数字は、Wan 2.1 T2V 14Bで81フレーム・720pの動画を生成したベンチマークです。単体のRTX 5090で、生成時間は4,769秒から18秒に短縮され、約265倍になったとされています。H100での比較では1,757秒から8秒、約220倍です。ただし、これは特定のモデル、解像度、動画長、ハードウェアにおける結果であり、あらゆる環境で同じ速度が出ることを意味しません。6
高スパース率に潜む「落とし穴」
動画拡散モデルは、長い映像の時間・空間情報を扱うため、トークン同士の関係を計算する「注意機構」が大きな計算負荷になります。そこで、すべての関係を計算せず、必要な一部に絞るのが疎な注意機構です。
ただし、計算対象を極端に減らすと別の問題が起きることがあります。研究チームが「高スパース率の落とし穴」と呼ぶのは、各ステップの学習損失が下がり続けていても、完成した動画の品質は改善せず、場合によっては悪化する現象です。18
SparkDiffusionは、まず短い「スパース・ウォームアップ」で疎なモデルに大まかな生成の手がかりを学ばせ、その後、最終的な生成結果を改善する方向で蒸留を行う段階的な設計を採用しています。8
3つの工夫で生成時間を短縮
SparkDiffusionの高速化は、単一の最適化ではなく、生成処理の異なる部分に働きかける手法の組み合わせです。8
- RoLAで注意計算を減らす： 学習型の疎な注意機構により、計算する注意のやり取りを絞ります。プロジェクトは、一部の構成で最大97％の注意スパース率を報告しています。
2
8
11
- CrossDistillで推論ステップを減らす： 軌道を組み合わせた蒸留により、少ないステップで動画を生成するモデルを作ります。プロジェクトが示す構成には、分類器フリーガイダンス（CFG）を使わない3ステップ推論があります。CFGは生成を導くための仕組みで、使わない構成ではその追加計算を避けられます。
- FP8融合カーネルで各ステップを効率化する： FP8の低精度計算と融合カーネルを使い、残る処理の実行コストを抑えます。
つまり、少ない注意計算、少ない生成ステップ、各ステップの高速実行を積み重ねた結果が、全体の高速化につながります。97％のスパース率だけで265倍の速度が出るわけではありません。8
ベンチマークの数字は条件とセットで見る
同じフレームワークでも、モデルや解像度によって結果は異なります。Wan 2.1の1.3Bモデルを使った480pのケースでは、約140倍の高速化が報告されています。720pの14Bモデルで示された265倍という数字と合わせて、速度の比較ではモデル規模や解像度などの条件を確認する必要があります。5
7
画質について、プロジェクトは高いスパース率でも強い視覚品質を維持できると説明しています。8 一方、速度のベンチマークだけでは、あらゆるプロンプトや解像度、モデルで元のWanと同等の画質になるとは判断できません。高スパース率の落とし穴が示すように、学習中の指標がよくなっても、最終動画の品質が同じようによくなるとは限りません。
18
公開済みモデルと対応するスパース率
公開されているチェックポイントには、Wan 2.1 T2V 14Bの480p・720p版や、Wan 2.2 T2V A14Bの480p版があります。9
10
11
12
対応範囲はチェックポイントによって異なります。たとえば、Wan 2.1の480p版は90％、720p版には最大95％または97％まで対応するものがあります。Wan 2.2の480p版は90〜95％に対応しています。したがって、97％のスパース率がすべての公開モデルで使えるわけではありません。9
10
11
12
プロジェクトはWan以外の視覚生成への展開も視野に入れた枠組みとして紹介されています。ただし、提供されている情報からは、将来のモデルやハードウェアへの対応時期、検証済みの性能までは確認できません。8
Studio Global AI
研究を続けてください
このページにはソースに裏付けされた回答が含まれており、Studio Global 内で続行できます。
人々も尋ねます
「Wan動画生成を最大265倍高速化する「SparkDiffusion」とは」の短い答えは何ですか?
SparkDiffusionは疎な注意機構、少ステップ蒸留、FP8融合カーネルを組み合わせ、特定のWan 2.1ベンチマークで最大約265倍の高速化を報告しています。[6][8]
最初に検証する重要なポイントは何ですか?
SparkDiffusionは疎な注意機構、少ステップ蒸留、FP8融合カーネルを組み合わせ、特定のWan 2.1ベンチマークで最大約265倍の高速化を報告しています。[6][8] 「高スパース率の落とし穴」とは、学習中の損失が下がっても、最終的な動画の品質が頭打ちになったり悪化したりする現象です。[18]
次の実践では何をすればいいでしょうか？
公開済みチェックポイントはWan 2.1とWan 2.2の一部構成が対象で、対応するスパース率や推論ステップ数はモデルごとに異なります。[9][10][11][12]
情報源
chiprook.comAI News — Models, Tools and Research, Updated Daily
searcharxiv.comKai Zhang | Searcharxiv