OpenAIがMac miniやMac Studioを数万台規模で購入した――。この報道が事実なら、AIインフラの主役がNVIDIA製GPUからAppleシリコンへ一斉に移る、という話ではない。より具体的には、現実のmacOS環境を大量に用意し、コンピューター操作エージェントの学習・評価を繰り返すための設備と見るのが自然だ。報じられた台数や正確な配備方法は、現時点では確認されていない。
1
11
AIエージェントには「普通のコンピューター」が必要
コンピューター操作エージェントは、文章を生成するだけのAIではない。ブラウザーを開き、アプリを操作し、ファイルを整理し、権限の確認に対応し、画面の変化から次の行動を判断する。操作に失敗した場合は、状況を読み直してやり直すことも求められる。
こうした能力を強化するには、実際のOSやアプリケーション上で膨大な試行を繰り返す必要がある。Mac miniやMac Studioを多数並べれば、それぞれを独立したmacOS環境として使い、エージェントのテスト、推論、評価、強化学習のロールアウトを並列化できる。Anthropicも、同様のコンピューター操作エージェント向けにAmazon Web Services(AWS)経由でMacの計算資源を借りていると報じられている。
1
2
6
強化学習では、AIが環境内で大量の試行、いわゆる「軌跡(trajectory)」を生成し、その結果をもとに行動方針を改善する。環境が実際のデスクトップである場合、OSやアプリの挙動を仮想化・エミュレーションで再現するより、macOSを直接動かすマシンを多数用意したほうが扱いやすい場面がある。
Appleシリコンの強みはユニファイドメモリ
Appleシリコンでは、CPU、GPU、ニューラル処理用のリソースが、ユニファイドメモリと呼ばれる共有メモリプールを利用する。一般的なCPUとディスクリートGPUの構成のように、システムメモリとGPUメモリの間でデータを何度もコピーする必要がない。
5
ローカルAIでは、アクセラレーターの理論性能だけでなく、どれだけのメモリにモデルを載せられるかが重要になる。大容量の共有メモリがあれば、モデルの重み、アプリケーションの状態、データセット、推論用のキャッシュなどを1台のマシンに収めやすい。
そのため、Appleシリコン搭載Macは次のような用途でメリットを持つ。
- ローカルでのモデル提供
- 量子化した大規模言語モデルの推論
- AIエージェントの評価・制御
- データ整理や前処理
- オフライン環境やプライバシー重視の運用
もっとも、ユニファイドメモリがすべての弱点を解消するわけではない。大容量メモリのMacが、あらゆる処理で最速になるわけではなく、NVIDIAのデータセンター向けGPUが持つCUDAエコシステム、大規模クラスター用の相互接続、分散学習の成熟したツール群をそのまま利用できるわけでもない。
現実的には、GPUを大規模な基盤モデルの学習に使い、Macやその他のローカルシステムをエージェントの試行、評価、テスト、エンドポイント推論に使うという、異種混在型のインフラになる可能性が高い。
新しいMac miniとMac Studioはどう位置づけられるか
Appleが刷新したデスクトップMacは、この用途に向けて2つの階層を提供する。新しいMac miniはM6またはM5 Proを搭載し、価格は899ドルから。Mac StudioはM5 Max搭載モデルが2,499ドルから、M5 Ultra搭載モデルが5,499ドルからとなる。Appleは9月22日からの提供開始を発表している。
17
18
26
M6はApple初の2ナノメートルプロセスで製造されたMac向けチップだ。一方、M5 Ultraは大容量メモリ構成が目玉で、最大512GBのユニファイドメモリと毎秒1.2TBのメモリ帯域幅に対応する。Appleは、数千億パラメーター規模の言語モデルを端末上で動かせる構成として訴求している。
21
33
役割分担は次のように考えられる。
- Mac mini:比較的安価で小型なノードとして、多数のエージェント環境、テスト、軽量推論を担当
- Mac Studio:大容量メモリを必要とする開発者、研究者、ローカルモデル提供、一般的なGPUでは収まりにくいモデルを担当
OpenAIの購入報道をこの観点から見ると、数万台の小型マシンを並べて独立した環境を大量に動かし、より高性能なMac Studioを大規模モデルや開発作業に割り当てる、というフリート戦略が考えられる。
256GBのM5 Ultraではどの程度のモデルを動かせるか
256GB構成は大容量だが、M5 Ultraの最大メモリ構成ではない。大まかに言えば、70B級のモデルなら余裕を持って扱える。4ビット量子化した70Bモデルは、量子化方式や実装によって異なるものの、通常は約40〜48GBのアクセス可能なメモリを必要とする。
54
さらに、量子化を強く施した一部の大規模なスパースモデル、つまりMixture of Experts(MoE)モデルも、256GBのシステムに収まる可能性がある。新しいプラットフォームについては、約235B〜284B規模のモデルの一部が256GB構成で動くという推定がある。ただし、これらはベンダーによる公式ベンチマークではない。
40
50
51
モデルカードに記載されたパラメーター数だけで、実際の動作を判断することはできない。主な条件は次の通りだ。
- 密なモデル(dense)かMoEか
- 量子化のビット数
- コンテキスト長とKVキャッシュの容量
- 推論フレームワークのオーバーヘッド
- 利用者が許容できる応答速度
「メモリに収まる」ことと、「快適に使える」ことは別だ。大きなモデルを読み込めても、対話型エージェントの処理には遅すぎる場合がある。反対に、やや小さいモデルでも高速に応答し、複数タスクを同時に処理できるなら、実務上はこちらのほうが有用なこともある。
この報道が示すこと、示さないこと
最も堅い読み方は、AIインフラが巨大GPUクラスターだけに依存しない方向へ広がっている、ということだ。AIエージェントの開発では、実際のデスクトップ環境を大量に動かす必要がある。ローカル推論では、プライバシー、遅延、運用の自由度が重視される。こうした処理は、必ずしも単一の巨大GPUクラスターで行う必要はない。
ただし、今回の材料だけでは、特定の部品不足との因果関係、Mac事業の29%成長、NVIDIAがAppleをローカルAIの最大の競合と見ているという主張まで確定したとは言えない。これらは、裏付けが十分でないため暫定的な情報として扱うべきだ。
Appleにとって機会が大きいのは、ローカルで大規模モデルを動かす市場と、エージェントの開発・評価用マシンを大量に配備する市場だろう。一方、最先端モデルの事前学習や最大スループットを求める大規模分散処理では、NVIDIAを含むデータセンター向けアクセラレーターが引き続き重要になる。
将来の構図は「Mac対NVIDIA」という単純な対決よりも、巨大GPUクラスターは基盤モデルの学習、Macのフリートはエージェントの試行と評価、高性能Macはローカル推論という役割分担に近い。OpenAIによるMac大量導入の報道は、その分業がAIインフラの現実的な選択肢になりつつあることを示している。