つまり、AIシステムの高度化に伴い、ラック内部のほぼすべての要素が高価になっているのです。
最も大きくコストが増えているのは次世代メモリ技術です。
この構成では次の2種類のメモリが同時に使われます。
Rubin世代では、AIサーバーは単なるGPU集合ではなく、複数の専用チップを統合したシステムになります。
主な構成には次のような要素が含まれます。
これらを1ラック内で高速接続するため、基板や電源、インターコネクトの設計が大幅に複雑化しています。
その結果、次のような部品のコストが上昇しています。
単体では小さな部品でも、ラック全体では大量に使われるためコストに大きく影響します。
それでも重要な変化があります。
つまりAIサーバーの価値は、もはやGPUだけでは決まらず、
といったシステム全体の設計が大きな比重を占めるようになっています。
このコスト構造の変化は、半導体業界全体にも影響を与えています。
AIブームの恩恵は、GPUメーカーだけでなく次の分野にも広がっています。
今回の約780万ドルという価格は、AIインフラの変化を象徴しています。
そのため現在では、1ラックの価格が小規模データセンターに匹敵するレベルになりつつあります。
それでも方向性は明確です。次世代AIインフラの競争は、単一のGPU性能ではなく、ラック全体のシステム設計で決まる時代に入っています。
Comments
0 comments