OpenAI 行政總裁 Sam Altman 近日在 Cheeky Pint 播客談到本機 AI,認為稀缺的 DRAM 放喺個人電腦,可能長時間閒置;若集中喺雲端數據中心,記憶體或可支援更多 AI 工作。他形容這種分配方式「quite terrible」,亦提到記憶體有 5% 時間正在使用。不過,現有報道未有獨立核實「5%」呢個估算。
2
10
「資源分配得好差」係原話嗎?
報道引述 Altman 的原句是:「From a global allocation perspective, actually, it’s quite terrible to have everybody have a bunch of the world’s limited supply of DRAM sitting in their own computer.」即係話,從全球資源分配角度看,人人部電腦都放住一批全球有限的 DRAM,情況「相當糟糕」。
10
網上流傳的「a terrible allocation of scarce resources」(稀缺資源分配得好差)大致概括到他的意思,但並非報道所引述的原句。
11 兩者分別在於,Altman 講的是記憶體點樣被使用;流傳版本就聽落更似一個較絕對的經濟判斷。
DRAM 是電腦、手機和伺服器使用的工作記憶體。Altman 談的焦點,是本機 AI 推論——即直接喺個人電腦執行 AI 模型,而唔係將要求送到服務供應商的伺服器。他的說法不等於個人電腦唔需要 RAM,亦唔應直接解讀成反對開源軟件。
3
10
「用得多」就一定較好?
Altman 的核心論點係使用率:如果記憶體供應緊張,集中喺數據中心,或比散落喺不同電腦、間歇使用更能支援大量 AI 工作。
2
10 但報道節錄沒有交代「5%」的計算方法,也未證明這個數字普遍適用於個人電腦或本機 AI。
而且,使用率高低並不足以判斷某個方案對個別用戶是否更合適。本機 AI 可能吸引重視資料留喺自己裝置的人——前提是相關軟件真的沒有把資料送到其他地方;亦可能適合不想依賴雲端服務供應情況、使用限制或收費的人。這些都是另一組用戶考量,Altman 的相關言論並沒有比較本機與雲端方案在這些方面的分別。
OpenAI 的商業角色亦是討論背景之一:相關報道指出,OpenAI 的數據中心同樣需要競逐記憶體晶片。
10 這點不能單獨推翻 Altman 的使用率論點,但有助理解點解一家雲端 AI 公司批評個人用家使用記憶體,會引起質疑。
他點解話「看不見的手」失靈?
Altman 亦認為記憶體市場未有適當回應需求。在節目逐字稿節錄中,他說:「I think the invisible hand is failing right now」(我覺得「看不見的手」目前失靈)。
8 報道亦引述他指,長期而言,製造記憶體過去未算是一門好生意。
28
另一篇報道轉述他比較記憶體廠商以往約投入 200 億美元、賺取 190 億美元,以及預計廠商往後每家一年可有約 1,000 億美元自由現金流的說法。
1
6
28 這些是報道轉述的言論和對未來的估算,不代表每間廠商已經取得相關結果;資本開支、盈利和自由現金流亦是不同財務指標。
他的整體看法是,即使記憶體價格上升、AI 需求增加,廠商未必會即時大幅擴產,因為他們亦要判斷高回報能否持續。現有資料未有核實他對工廠投資決策的所有解釋,因此較穩妥的做法,是把它視為 Altman 對市場的看法,而不是記憶體短缺的完整答案。