金剛 GC3（Jingang GC3，亦稱 King Kong GC3）據報係 SmarCo HT Tech 推出嘅專用影片 AI 及生成式 AI 處理器。佢唔係將影片解碼、AI 推理同影片生成當成幾個互不相干嘅工序，再交畀不同裝置處理；相反，設計方向係用數據流架構，將幾條工作路徑拉近，盡量喺同一平台內完成。據報規格包括 12 個 RISC-V 核心、200 TOPS INT8 算力，以及 128GB LPDDR5 ECC 統一記憶體。35

GC3 真正想解決嘅，唔單止係「算力夠唔夠」呢個問題。對影片 AI 嚟講，影格、模型資料同中間結果喺處理器與記憶體之間反覆搬運，往往都會食 bandwidth、電力同時間。數據流引擎、共享記憶體，以及整合影片同 AI 路徑，正正係用嚟減少呢類搬運。

點解影片 AI 特別容易撞上資料搬運瓶頸？

傳統影片理解流程通常係先將串流解碼成影格，再將影格傳去 GPU 做視覺推理，之後仲可能要經過其他處理階段。當同時處理嘅串流數目增加，資料傳輸同同步就可能變成瓶頸，唔一定係運算單元本身唔夠快。3

影片生成亦有類似問題。擴散模型同 Transformer 模型會處理大量模型參數及中間結果；關於 GC3 嘅報道指，呢啲中間資料集可以去到數百 GB。反覆讀取、寫入同跨裝置傳輸，會增加記憶體頻寬、耗電量同處理時間。3

所以，GC3 針對嘅唔只係「增加更多算術單元」，而係大型、高度平行工作負載入面，各個階段點樣互相協調，以及資料點樣流動。

GC3 將幾種架構元素放埋一齊

數據流運算：有資料就開工

喺較傳統嘅控制流設計入面，中央處理器或排程器負責提取同發出指令，資料就喺唔同層級嘅記憶體之間流轉。呢種方式彈性高，但據 GC3 相關報道，未必最適合部分規律性高、而且高度平行嘅影片運算。3

數據流設計嘅概念就唔同：當一項運算所需嘅資料準備好，相關運算就可以開始。理論上，咁樣可以暴露更多平行度，亦減少因中央排程及全局協調而出現嘅等候。對影片工作負載嚟講，目標係令更多處理階段保持運作，唔使所有工作都反覆經過單一路徑。3

不過，呢個係架構設計目標，唔代表已經證明某個具體速度提升。現有資料未有提供 GC3 同指定 CPU、GPU 或影片 AI 平台之間，獨立驗證嘅端到端比較結果。

RISC-V 核心：負責可編程控制

據報 GC3 配備 12 個 RISC-V 核心，主要作為可編程控制層。專用處理路徑負責影片及 AI 運算，而 RISC-V 核心就處理一般控制、排程及其他通用工作，唔需要由傳統 CPU 一手包辦每個階段。35

換句話講，RISC-V 喺 GC3 入面唔係「全部算力」嘅代名詞。佢係同數據流引擎、專用影片功能及 AI 功能一齊運作：一方面保留可編程控制能力，另一方面就將高吞吐量工作交畀專用硬件處理。

128GB 統一記憶體：少啲 CPU／GPU 之間嘅複製

GC3 據報採用 128GB LPDDR5 ECC 統一記憶體，由 CPU、VPU、GPU 同 NPU 路徑共享。35 呢種設計嘅預期好處，係減少數據喺獨立 CPU 記憶體池同 GPU 記憶體池之間複製。

喺共享記憶體池之下，已解碼影格、模型權重同中間張量理論上可以畀多個運算模組存取，唔使每次都做同等程度嘅裝置對裝置傳輸。ECC 就為記憶體子系統提供錯誤保護；過往針對 RISC-V 處理器嘅研究亦探討過用 ECC 保護記憶體，以提升容錯能力。1

但統一記憶體唔等於所有 bandwidth 限制都會消失。佢主要改變唔同運算模組存取資料嘅方式，實際收益仍然要視乎記憶體頻寬、軟件堆疊、排程方式同具體工作負載。

整合影片同 AI 路徑：由輸入到輸出少啲轉手

據報 GC3 將影片編碼、解碼同 AI 運算放喺同一平台，令影片輸入至理解，以及生成內容至編碼輸出之間，可以有更直接嘅處理路徑。35

相關構想可以簡化成以下流程：

• 喺平台上解碼影片；
• 令影格繼續留喺相關 AI 路徑可存取嘅位置；
• 進行影片理解或生成，減少反覆跨越不同裝置邊界；以及
• 喺同一整合系統內將結果重新編碼。

呢個唔代表所有運算會變成一個完全不可分割嘅步驟，而係指架構目標係減少原本由多部專用處理器及多套記憶體系統造成嘅不必要交接。

點解減少搬資料，可能有助降低延遲、耗電同成本？

GC3 所標榜嘅經濟效應，基本上都由上述架構推導出嚟：如果工作負載需要較少複製、較少記憶體往返，以及較少跨裝置同步，系統就可能少啲時間同電力用喺搬資料，而唔係真正做運算。對多串流影片理解、本地影片處理，以及涉及大型中間張量嘅影片生成，呢個方向尤其重要。3

潛在好處大致可以分三方面：

• 延遲： 解碼、AI 同編碼階段之間少啲傳輸，可能縮短由輸入影格到輸出結果嘅路徑。
• 耗電： 減少記憶體存取及互連流量，理論上可以降低資料搬運所需嘅能量。
• 成本： 如果一個整合平台可以取代部分多裝置協調工作，或有機會減少相關基礎設施及運維負擔。

但要留意，以上係現有報道描述嘅設計目標，唔係已獨立驗證嘅實際成效。現有來源提供咗主要規格同架構理據，但未能證明每段影片成本、每條串流耗電量，或者端到端延遲已經實際下降。

200 TOPS 同 128GB 記憶體，究竟代表咩？

報道中嘅 200 TOPS，指嘅係 INT8 精度下嘅 AI 運算能力，唔等於任何應用都可以直接獲得相同表現。實際影片 AI 吞吐量仲會受模型兼容性、運算精度、記憶體頻寬、編譯器及 runtime 支援、影片格式、batch size、串流數量，以及數據流排程器效率影響。

同樣，128GB 統一記憶體可能有助容納大型模型同中間資料，但單靠容量，唔足以證明某一款影片生成模型可以高效運行。軟件支援同實際資料流量，仍然係關鍵。

總結：GC3 嘅重點係資料位置，而唔只係算力數字

金剛 GC3 最適合被理解為一次以「資料局部性」為核心嘅影片 AI 架構嘗試。據報佢將數據流執行、RISC-V 控制核心、整合 CPU／VPU／GPU／NPU 路徑，同 128GB 統一記憶體結合，針對傳統 CPU 加 GPU 流程入面常見嘅資料傳輸同同步障礙。35

如果硬件同軟件能夠按設計發揮，呢種架構或可令多串流影片理解及影片生成更有效率。不過，以目前證據嚟講，較穩妥嘅結論係：GC3 提出咗一套有一定合理性嘅架構策略，同一組由供應方及相關報道提供嘅規格；至於成本、耗電量同延遲係咪真係較低，暫時未有獨立基準測試可以確認。

金剛 GC3（Jingang GC3，亦稱 King Kong GC3）據報係 SmarCo HT Tech 推出嘅專用影片 AI 及生成式 AI 處理器。佢唔係將影片解碼、AI 推理同影片生成當成幾個互不相干嘅工序，再交畀不同裝置處理；相反，設計方向係用數據流架構，將幾條工作路徑拉近，盡量喺同一平台內完成。據報規格包括 12 個 RISC-V 核心、200 TOPS INT8 算力，以及 128GB LPDDR5 ECC 統一記憶體。35

GC3 真正想解決嘅，唔單止係「算力夠唔夠」呢個問題。對影片 AI 嚟講，影格、模型資料同中間結果喺處理器與記憶體之間反覆搬運，往往都會食 bandwidth、電力同時間。數據流引擎、共享記憶體，以及整合影片同 AI 路徑，正正係用嚟減少呢類搬運。

點解影片 AI 特別容易撞上資料搬運瓶頸？

傳統影片理解流程通常係先將串流解碼成影格，再將影格傳去 GPU 做視覺推理，之後仲可能要經過其他處理階段。當同時處理嘅串流數目增加，資料傳輸同同步就可能變成瓶頸，唔一定係運算單元本身唔夠快。3

影片生成亦有類似問題。擴散模型同 Transformer 模型會處理大量模型參數及中間結果；關於 GC3 嘅報道指，呢啲中間資料集可以去到數百 GB。反覆讀取、寫入同跨裝置傳輸，會增加記憶體頻寬、耗電量同處理時間。3

所以，GC3 針對嘅唔只係「增加更多算術單元」，而係大型、高度平行工作負載入面，各個階段點樣互相協調，以及資料點樣流動。

GC3 將幾種架構元素放埋一齊

數據流運算：有資料就開工

喺較傳統嘅控制流設計入面，中央處理器或排程器負責提取同發出指令，資料就喺唔同層級嘅記憶體之間流轉。呢種方式彈性高，但據 GC3 相關報道，未必最適合部分規律性高、而且高度平行嘅影片運算。3

數據流設計嘅概念就唔同：當一項運算所需嘅資料準備好，相關運算就可以開始。理論上，咁樣可以暴露更多平行度，亦減少因中央排程及全局協調而出現嘅等候。對影片工作負載嚟講，目標係令更多處理階段保持運作，唔使所有工作都反覆經過單一路徑。3

不過，呢個係架構設計目標，唔代表已經證明某個具體速度提升。現有資料未有提供 GC3 同指定 CPU、GPU 或影片 AI 平台之間，獨立驗證嘅端到端比較結果。

RISC-V 核心：負責可編程控制

據報 GC3 配備 12 個 RISC-V 核心，主要作為可編程控制層。專用處理路徑負責影片及 AI 運算，而 RISC-V 核心就處理一般控制、排程及其他通用工作，唔需要由傳統 CPU 一手包辦每個階段。35

換句話講，RISC-V 喺 GC3 入面唔係「全部算力」嘅代名詞。佢係同數據流引擎、專用影片功能及 AI 功能一齊運作：一方面保留可編程控制能力，另一方面就將高吞吐量工作交畀專用硬件處理。

128GB 統一記憶體：少啲 CPU／GPU 之間嘅複製

GC3 據報採用 128GB LPDDR5 ECC 統一記憶體，由 CPU、VPU、GPU 同 NPU 路徑共享。35 呢種設計嘅預期好處，係減少數據喺獨立 CPU 記憶體池同 GPU 記憶體池之間複製。

喺共享記憶體池之下，已解碼影格、模型權重同中間張量理論上可以畀多個運算模組存取，唔使每次都做同等程度嘅裝置對裝置傳輸。ECC 就為記憶體子系統提供錯誤保護；過往針對 RISC-V 處理器嘅研究亦探討過用 ECC 保護記憶體，以提升容錯能力。1

但統一記憶體唔等於所有 bandwidth 限制都會消失。佢主要改變唔同運算模組存取資料嘅方式，實際收益仍然要視乎記憶體頻寬、軟件堆疊、排程方式同具體工作負載。

整合影片同 AI 路徑：由輸入到輸出少啲轉手

據報 GC3 將影片編碼、解碼同 AI 運算放喺同一平台，令影片輸入至理解，以及生成內容至編碼輸出之間，可以有更直接嘅處理路徑。35

相關構想可以簡化成以下流程：

• 喺平台上解碼影片；
• 令影格繼續留喺相關 AI 路徑可存取嘅位置；
• 進行影片理解或生成，減少反覆跨越不同裝置邊界；以及
• 喺同一整合系統內將結果重新編碼。

呢個唔代表所有運算會變成一個完全不可分割嘅步驟，而係指架構目標係減少原本由多部專用處理器及多套記憶體系統造成嘅不必要交接。

點解減少搬資料，可能有助降低延遲、耗電同成本？

GC3 所標榜嘅經濟效應，基本上都由上述架構推導出嚟：如果工作負載需要較少複製、較少記憶體往返，以及較少跨裝置同步，系統就可能少啲時間同電力用喺搬資料，而唔係真正做運算。對多串流影片理解、本地影片處理，以及涉及大型中間張量嘅影片生成，呢個方向尤其重要。3

潛在好處大致可以分三方面：

• 延遲： 解碼、AI 同編碼階段之間少啲傳輸，可能縮短由輸入影格到輸出結果嘅路徑。
• 耗電： 減少記憶體存取及互連流量，理論上可以降低資料搬運所需嘅能量。
• 成本： 如果一個整合平台可以取代部分多裝置協調工作，或有機會減少相關基礎設施及運維負擔。

但要留意，以上係現有報道描述嘅設計目標，唔係已獨立驗證嘅實際成效。現有來源提供咗主要規格同架構理據，但未能證明每段影片成本、每條串流耗電量，或者端到端延遲已經實際下降。

200 TOPS 同 128GB 記憶體，究竟代表咩？

報道中嘅 200 TOPS，指嘅係 INT8 精度下嘅 AI 運算能力，唔等於任何應用都可以直接獲得相同表現。實際影片 AI 吞吐量仲會受模型兼容性、運算精度、記憶體頻寬、編譯器及 runtime 支援、影片格式、batch size、串流數量，以及數據流排程器效率影響。

同樣，128GB 統一記憶體可能有助容納大型模型同中間資料，但單靠容量，唔足以證明某一款影片生成模型可以高效運行。軟件支援同實際資料流量，仍然係關鍵。

總結：GC3 嘅重點係資料位置，而唔只係算力數字

金剛 GC3 最適合被理解為一次以「資料局部性」為核心嘅影片 AI 架構嘗試。據報佢將數據流執行、RISC-V 控制核心、整合 CPU／VPU／GPU／NPU 路徑，同 128GB 統一記憶體結合，針對傳統 CPU 加 GPU 流程入面常見嘅資料傳輸同同步障礙。35

如果硬件同軟件能夠按設計發揮，呢種架構或可令多串流影片理解及影片生成更有效率。不過，以目前證據嚟講，較穩妥嘅結論係：GC3 提出咗一套有一定合理性嘅架構策略，同一組由供應方及相關報道提供嘅規格；至於成本、耗電量同延遲係咪真係較低，暫時未有獨立基準測試可以確認。