中古Tesla P40 24GBは、古いサーバー向けローカルAI改造の現実的な最安候補

なぜP40が効くのか：ローカルLLMではVRAMが壁になる

ローカルLLM、つまりクラウドに送らず手元のPCやサーバーで大規模言語モデルを動かす用途では、「モデルがGPUメモリに収まるか」が最初の壁になります。InsiderLLMは、P40の24GB VRAMにより、12GBのRTX 3060には収まらない一部の14BモデルをGPU上だけで動かせると説明しています 。別の2026年中古GPUガイドも、AI用途では新しさよりVRAM容量を重視する考え方を示しています 。

ただし、P40は新しいGPUではありません。Vast.aiはTesla P40のリリース日を2016年9月13日、メモリ容量を24GBと記載しています 。Accioは、P40をPascal世代のデータセンター向けGPUで、もともとは推論と仮想化を主目的にした製品だと説明し、現在は安価な24GBカードとしてローカルAIビルダーに再利用されているとしています 。

性能面でも過度な期待は禁物です。InsiderLLMはP40を現代基準では遅いカードとし、RTX 3090と比べておおむね3倍遅いと位置づけています 。

本当のコストはカード代だけではない

中古P40の価格だけを見ると安く感じますが、古いサーバー側が対応できなければ安物買いになりかねません。購入前に確認したいのは次の4点です。

1. スロットと筐体の余裕
   PCIe x16スロット、または対応するライザーが使えるかを確認します。ラックサーバーは機種ごとに内部レイアウトが違い、カード長やライザーの向きだけで実用性が大きく変わります。

2. 電源容量とケーブル
   InsiderLLMはTesla P40のTDPを250Wとしています 。CPUやストレージも含め、負荷時に余裕のある電源構成かどうかを見ておく必要があります。

3. GPUに風を通す冷却
   Accioは、P40のローカルLLM利用における冷却の難しさを明確に指摘しています 。実際には、ブロワーファン、ファンシュラウド、またはサーバー筐体内でGPUに直接風を通す構造が必要になります。

4. 画面出力の計画
   P40を普通のグラフィックカードのように考えてはいけません。2026年の中古GPUガイドでは、Tesla P40 24GBは画面出力なしとされています 。マザーボード側の映像出力、別の安価な表示用GPU、またはリモート接続を前提にしましょう。

どんな使い方が向いているか

P40は、基本的には推論専用のローカルAI箱として考えるのが現実的です。AccioはP40の再利用先としてローカルLLM実行を挙げ、P40のホームラボ利用文脈でllama.cppにも触れています 。

最初から「最新の巨大モデルを何でも快適に動かす」つもりで組むより、24GB VRAMに収まるモデルを選び、量子化、コンテキスト長、同時リクエスト数などを調整していく使い方が向いています。

RBAの低予算ビルド記事も、P40は最大級の最先端モデルを動かせるカードではなく、アーキテクチャ上の制約があるとしつつ、適切なセットアップならまだ十分使えると述べています 。

性能は「最前線」ではなく「使える」ライン

静かなデスクトップPCで、最新モデルを何でも快適に回したい人にとって、P40は理想的なカードではありません。InsiderLLMは、P40を現代基準では遅く、RTX 3090よりおおむね3倍遅いと説明しています 。

それでもP40が選ばれるのは、実例ベースで“使える場面”があるからです。RBAは、中古P40を使った予算重視のサーバーで、Qwen3 Coder 30Bをおよそ毎秒50トークンで動かしたと報告しています 。

ただし、この数字は万能のベンチマークではありません。速度はモデル、量子化、コンテキスト長、CPUやメモリ構成、冷却状態、推論サーバーの設定によって大きく変わります。

P40、RTX 3090、A100を比べる

目的が「とにかく安く24GB」なのか、「多少高くても扱いやすく速く」なのか、「大きなモデルを本格運用したい」のかで、選ぶべきGPUは変わります。

いちばん安く組むための手順

安さを最優先しつつ、あとで困らないための順番は次の通りです。

1. サーバーに使えるPCIeスロットまたはライザー、十分な物理スペース、電源容量があるかを確認する。
2. カード本体より先に冷却方法を考える。P40では冷却の難しさが繰り返し指摘されています 。
3. ファン、ダクト、電源ケーブル、変換アダプターなどを含めても総額が見合う場合だけ、中古Tesla P40 24GBを買う。
4. P40には画面出力がない前提で、マザーボード出力、別GPU、リモート管理を用意する 。
5. ローカル推論環境を入れ、24GBメモリに収まるモデルから試す。P40のローカルLLM利用ではllama.cppが言及されています 。
6. 騒音、発熱、工作の手間が大きくなりすぎるなら、購入前に中古RTX 3090 24GBの総額と比較する 。

最終判断

とにかく安く古いサーバーをローカルAI推論機にしたいなら、中古Tesla P40 24GBは今でも目立つ選択肢です。最近のガイドでは、おおむね150〜250ドル前後、または300ドル未満の24GB GPUとして扱われています 。

ただし、勝ち筋は「P40を買うこと」だけではありません。十分な電源、GPUに直接風を通す冷却、画面出力なしへの対応、そして最新GPUほど速くないという割り切りがそろって初めて、安いローカルAI機になります。

同じ24GBでも、手間を減らしたいなら中古RTX 3090 24GBを検討するほうが無難です 。A100級のメモリが必要なら、もはや“格安の旧サーバー再生”ではなく、数千ドル規模の予算を組む話になります 。