ByteDanceはなぜ競合AIの蒸留で遅れる道を選ぶのか

ByteDance創業者の張一鳴氏が、競合AIモデルの出力を使って自社モデルを改善する「モデル蒸留」を避けるよう、AI研究チーム「Seed」に求めたと報じられている。短期的にはベンチマークで後れを取る可能性があっても、長期的なAI開発を優先する判断だという。1

モデル蒸留とは、より高性能なAIの回答を使って、別の小型・低コストなモデルを学習させる手法だ。強いモデルの能力の一部を効率よく再現できるため、開発期間や計算資源を抑えながら性能を引き上げる近道になり得る。

しかしSeedが懸念しているのは、単に競合の回答を利用することの是非だけではない。競合の出力を繰り返し学習すれば、性能の高い「追随者」にはなれても、研究の方向性や問題の解き方が、別の研究所の手法や評価基準に縛られる可能性がある。49

2023年のGPTデータから、競合全体を対象にした方針へ

2023年：GPT由来データを学習に使わない規則

PekingnologyとPandailyが紹介した中国語報道によると、Seedの初期チームはGPT APIで生成したデータを使う実験を行っていた。ByteDanceが2023年4月にAPI呼び出しの監査を導入した後、チームはGPTが生成したデータをByteDanceの学習データセットに入れない方針を定めたとされる。914

重要なのは、この方針が特定のAPIだけを禁じるものにとどまらなかった点だ。報道ではその後、クローズドかオープンウェイトかを問わず、他社のモデルをSeedの「教師」にしないという、より広い原則へと発展したと説明されている。910

オープンウェイトモデルとは、モデルの重みが公開され、利用者が自分の環境で動かしたり、条件に応じて改変・再学習したりできるモデルを指す。公開されているからといって、Seedにとってそれが自社開発の教師として受け入れられるとは限らない、という考え方だ。914

2025年：DeepSeek-R1が社内議論を再燃させる

議論が再び活発になったのは、2025年1月にDeepSeek-R1が高い推論性能と効率性を示した後だと報じられている。Seedの一部研究者は、より高性能な米国モデルの出力を補助的に使えば、ByteDance独自の学習基盤を置き換えずに推論能力を素早く伸ばせるのではないかと考えたという。9

これに対し張氏は、それでも「借りた能力」に依存することになるとの立場を示したとされる。9

なお、DeepSeek自身が米国の最先端モデルから生成データを使ったという話は、ここで確認できる資料上では業界内の推測にとどまる。これは、Seed内部の蒸留禁止方針について報じられた内容とは分けて考える必要がある。

2026年：蒸留の誘惑が強まるなかで再確認

中国のAI開発企業がハードウェア、モデル性能、ベンチマーク順位をめぐって激しく競争するなか、より強いモデルの出力を使う近道は魅力を増していった。報道では、Seedの研究者が急速に進歩する最先端モデルを追跡する一方、競合が調査・利用しやすいオープンウェイトモデルとしてMoonshot AIのKimi K3が登場したことも、議論の背景になったとされる。914

ここで問題は、抽象的な研究哲学ではなく、明確な経営上のトレードオフになった。蒸留を使えば、測定可能な性能差を短期間で縮められるかもしれない。一方で、それを拒めば、競合がより速く改善する間にSeedがベンチマークで後退する可能性がある。

2026年に開かれたとされるSeedの全体会議で、張氏はそれでも方針を明確にしたという。Seedが一時的に遅れを取ることは受け入れるが、競合モデルの蒸留によって追いつくことはしない、という判断だ。110

なぜオープンウェイトまで対象なのか

この禁止方針が広範なのは、アクセス権やライセンスだけでなく、開発上の依存を問題にしているからだと考えられる。API経由で使うクローズドモデルと、重みが公開されたモデルでは、法的条件や技術的な扱いは異なる。それでも、他社が見つけた解法を学習するという戦略上のリスクは共通している。914

もちろん、あらゆる知識移転が同じ意味を持つわけではなく、オープンウェイトの利用がすべて不適切だということでもない。報道が示しているのは、Seedの社内基準が、無許可のAPIスクレイピングを禁じる通常のコンプライアンス規則より厳しかったという点だ。他社の最先端モデルを教師として使わないことに、オープンウェイトの公開モデルも含まれていたとされる。1014

Claudeをめぐる疑惑が浮き彫りにした文脈

この方針の意味は、他の中国AI企業をめぐる疑惑によってさらに注目されるようになった。Anthropicは、Alibaba、DeepSeek、Moonshot、MiniMax、Z.aiがアカウントや代理経由でClaudeの出力を抽出し、学習に利用したと主張している。この主張の対象にByteDanceは含まれていない。69

また、米政府関係者はMoonshotがAnthropicのモデルをKimi K3の学習に不適切に利用したと主張した。いずれも、ここで示された資料によって確定した事実ではなく、申し立ての段階にある。69

重要なのは、Seedの規則が報道上、こうした後発の政治的論争より前の2023年にさかのぼることだ。つまり、これらの疑惑が方針を生んだというより、張氏が以前から示していた考えの重要性を後から強めたと見る方が自然だ。9

目先の模倣より、独自の「知能の設計」を選ぶ

張氏の主張は、AIの性能向上に蒸留が役立たないという意味ではない。蒸留によって、回答の質や推論パターン、ベンチマーク成績を速やかに改善できる可能性はある。

ただし、競合の出力で学習を続ければ、その競合が持つ「知能の設計」に合わせて最適化されるおそれがある。そこには、問題の分解方法、報酬信号、典型的な回答、評価項目などが含まれる。910

Seedが選ぼうとしているのは、より時間のかかる道だ。自社のデータ、学習手法、アーキテクチャー、研究上の優先順位を積み上げ、競合の現在の設計に制約されない能力を目指す。その代償として、競合があらゆる近道を使う局面で、ランキング上の遅れを受け入れなければならない。

したがって今回の判断は、蒸留を技術的に無価値とみなすものではない。短期的な性能向上が、長期的な依存に見合うのかという選択だ。ByteDanceにとって張氏の指示は、その優先順位を端的に示している。今日の競争で負けることはあっても、他社の答えを写すことで明日のAIを築くことは避ける――それがSeedの報じられた戦略である。19