使っていないゲーミングPCがAIインフラになる？ 分散型推論ネットワークの現実

「AIのためにPCを貸す」という発想

ゲームをしていない時間のゲーミングPCは、所有者にとっては単なる余剰資産だ。Far Labsと米オースティンのEvolving Edgeは、この空き時間をAIインフラとして活用しようとしている。

仕組みは、家庭用PCやホームサーバーの余ったGPU・CPUをネットワークに参加させ、AI企業などから受けた処理を実行した分だけ所有者に報酬を支払うというものだ。狙いは、最先端モデルの大規模な学習ではなく、比較的小さなオープンソースモデルによる推論。推論とは、学習済みのモデルがユーザーのリクエストに応答する処理を指す。26

魅力的な構想ではある。すでに存在する計算資源を使えるうえ、AI処理を複数の場所に分散できるからだ。しかし本当の難題は、家庭のGPUでモデルを動かせるかどうかではない。性能も接続環境も稼働時間も異なる何千台ものPCを、安全かつ安定的に、十分な速度と採算性を保ちながら運用できるかどうかにある。

分散型AI推論はどう動くのか

一般的な分散型推論システムは、次の3層で構成される。

1. 利用者や企業から届く推論リクエスト
2. 処理先のノードを選ぶオーケストレーション層
3. 実際に処理を実行するホストPC上のソフトウェア

運営側は、モデルのサイズ、GPUメモリ、予想レイテンシー、稼働率、ホストの利用可能なリソースなどを考慮し、どの仕事をどのマシンに割り当てるか決めなければならない。

Far Labsはモデルを複数台に分割

Far Labsの「FAR AI」は、日常的に使われているGPUを接続し、リアルタイムで適切なノードへリクエストを振り分ける分散推論レイヤーだと説明されている。中央集約型のクラスターだけに依存せず、インタラクティブなAI機能を支えることを目指している。1112

提供された報道によれば、Far Labsのスケジューラーは、1台のホストにモデル全体を載せられない場合、処理を複数のマシンに分割できるという。これにより、比較的メモリの少ないGPUも活用しやすくなる可能性がある。

ただし、モデル分割には代償もある。ノード間でデータをやり取りし、処理の順番を調整しなければならないためだ。通信や待ち時間が増えれば、応答速度や安定性に影響する。Far Labsはインタラクティブ推論について100ミリ秒未満という将来目標を示しているが、これは達成済みの実測値ではない。実際のエンドツーエンドの遅延には、ルーティング、待ち行列、モデルの読み込み、ノード間通信、結果の返送にかかる時間も含まれる。

Evolving EdgeはRayを利用

Evolving Edgeは、分散コンピューティング向けフレームワーク「Ray」を使い、参加するコンピューターにモデル提供のタスクを割り当てる仕組みだと説明されている。Rayでは、処理単位を管理対象のアクターとして表現し、クラスター内の各ノードにスケジュールできる。56

Rayは分散実行に必要な有用な部品を提供する。しかし、Rayを採用しただけでマーケットプレイス運営の問題が解決するわけではない。障害や過負荷のノードを検知し、モデルを効率的に配置し、異なるハードウェア構成に対応し、失敗した処理を再実行・複製するか判断する仕組みが別途必要になる。

家庭のPCで第三者の処理を安全に実行できるか

自分の所有するPCで第三者のコードやデータを扱うことは、ゲームや一般的なデスクトップアプリをインストールするより大きなセキュリティリスクを伴う。信頼できるホスト向けシステムには、実行内容へのアクセス制限と、PCのリソースを使い切らせない制御が欠かせない。

考えられる対策には、次のようなものがある。

• 隔離された実行環境やサンドボックス
• 通信中のデータの暗号化
• CPU、GPU、メモリ、ストレージ、ネットワーク使用量の上限
• ジョブの実行時間制限と自動終了
• 内容を検証でき、適切に更新できるホスト用クライアント

Rayのサンドボックス設計は、信頼できないコードやAIエージェントの処理を、軽量なカーネル分離環境で実行するものだ。実験的な実装では、gVisorとOCIコンテナ環境が使われ、Rayのアクターがサンドボックスのリソースをスケジュール・管理する。17182021

こうした技術がソフトウェアの世界に存在することは、関連する安全対策の基盤があることを示す。ただし、それだけでFar LabsやEvolving Edgeが本番環境に同じ保護策を導入しているとはいえない。家庭用OS上で安全に設定されているか、PC所有者が確認したコードと実際に稼働しているコードが一致しているかも、別途検証が必要だ。

ノード用ソフトウェアをオープンソースにすれば、所有者はリソース制限やデータへのアクセス方法を確認しやすくなる。しかし、オープンソースであることだけでは安全性は保証されない。再現可能なビルド、署名付きアップデート、明確な権限設定、脆弱性への対応、公開ソースと実際の配布版の一致を確認する仕組みも求められる。

既存のSaladとはどう違うのか

比較対象として最も分かりやすいのがSaladだ。Saladは、消費者向けGPUを保有する人と計算資源を必要とする組織をつなぐマーケットプレイスをすでに運営している。ブロックチェーンやトークンを調整の基盤にしていない点も特徴だ。13

Far Labsは、リアルタイムのルーティングや分散推論、必要に応じたモデル処理の分割を前面に出している。一方、Evolving EdgeはRayを利用した分散ランタイムとオープンベータが中心だと説明されている。Saladには、消費者向けGPU市場を実際に運用してきた経験がある。新しい2社は、稼働率、顧客需要、サポート、ホストへの報酬という面で同等の実績を示さなければならない。

ここで注意したいのは、分散化はアーキテクチャであって、性能結果ではないという点だ。参加するPCが多くても、ネットワークが中央集権的に運営されることはある。台数の多さだけで、信頼性や低コストが約束されるわけではない。

最大の未解決問題はホストの利益

PC所有者が受け取る総報酬は、利益の計算の出発点にすぎない。実際には、電気代、発熱と冷却、インターネット接続費、メンテナンス費、ハードウェアの減価、個人利用できなくなる機会費用も考慮する必要がある。

ネットワークに登録されていることと、実際に仕事を受けていることも同じではない。接続状態にあっても有償ジョブがほとんど来ないGPUは、電力や管理コストを負担するだけで、収入がほぼ発生しない可能性がある。報酬単価、実際の稼働率、ジョブの継続時間、消費電力の前提が明らかにならなければ、所有者が投資回収期間を計算するのは難しい。

推論処理を継続すれば、発熱やファンの稼働、メモリ使用も増える。参加が合理的かどうかは、GPUの種類、地域の電気料金、稼働率、処理の強度、将来の中古価格によって変わる。現時点の資料だけでは、一般的なPC所有者にとって参加が「放置して稼げる収入」になる、あるいは利益が出るとは判断できない。

速度とコストの主張には実運用データが必要

家庭用の余剰ハードウェアを活用する場合、すでに存在するマシンを使えるというコスト上の利点がある。所有者の一部が、使っていない容量を収益化したいと考える可能性もある。

しかしネットワーク側には、オーケストレーション、通信帯域、監視、失敗したジョブ、処理の複製、サポート、セキュリティ、ホストへの報酬といった費用が発生する。余剰GPUが安価だからといって、サービス全体のコストが自動的に下がるわけではない。

遅延についても同様だ。特定のKubernetes環境でサンドボックスを100ミリ秒未満で起動できることと、家庭用回線を含むインターネット規模のネットワークで、推論結果を100ミリ秒未満に返せることは別の話である。Rayの文書にある100ミリ秒未満という数値は、特定構成におけるサンドボックス起動時間についてのものであり、消費者向けノードのネットワーク全体の推論速度を保証するものではない。17

また、分散型AIシステムの多くは、実際の計算をブロックチェーンの外側で行う。一般的なブロックチェーンは、機械学習処理の計算量やデータ量に適していないため、通常はモデルを直接実行するのではなく、調整や支払いのレイヤーとして機能する。1

大量のノード障害に耐えられるのか

十分な余剰容量を持つ分散ネットワークなら、1台のマシンに依存するシステムより障害に強くなる可能性がある。Ray関連の研究では、ノードが離脱した際に失われたタスクの依存関係を再構築し、ノードが復帰すると処理性能を回復する仕組みが説明されている。30

ただし、この利点は自動的に得られるものではない。本番の推論ネットワークには、十分な冗長性、モデルの複製、適切な配置、迅速な障害検知が必要になる。

さらに、地域の停電や通信事業者の障害、問題のあるソフトウェア更新、ホスト向け報酬の低下などが同時に起きれば、多数のノードが一斉に離脱する可能性もある。モデルを複数台に分割する方式も、使えるハードウェアを増やす一方で、通信量と障害点を増やす。どこに最適なバランスがあるかは、処理内容とスケジューリング戦略次第だ。

GPUを貸す前に確認したい7項目

こうしたネットワークがより強い証拠を公開するまでは、参加を「実験的で、収入が変動するサービス」と考えるのが安全だ。ノード用ソフトウェアをインストールする前に、少なくとも次を確認したい。

1. 報酬の計算方法と支払い履歴
2. 登録台数ではなく、実測された稼働率
3. 電気代と冷却費を含む現実的な収支試算
4. ソフトウェアが持つ権限とリソース制限
5. 独立したセキュリティテストや監査の結果
6. 実測されたレイテンシー、可用性、ジョブ失敗率
7. ノードを一時停止・削除する簡単な手順

Far LabsとEvolving Edgeが試みているのは、散在する家庭用ハードウェアで中央集約型AIの計算能力を補うという、筋の通ったアイデアだ。選ばれた小規模モデルや用途では、技術的に機能する可能性がある。

しかし、ネットワークが安全で、速く、障害に強く、ホストの実費を差し引いても十分な報酬を生むかは、まだ開かれた問題だ。広告上の参加台数や将来目標ではなく、実運用での稼働率、遅延、障害対応、報酬、電力コストを示せるかどうかが、このモデルの成否を分けることになる。