臺灣首款 AI 合規驗證設備：全本機運作、不需上雲

東擎科技也已經把 AI BOX-A395 驗證為可應付更廣泛的本機推論需求。在同一檔展覽中，東擎與群聯電子（Phison Electronics）共同發表另一項合作：展示一套 120B 參數的大型語言模型，僅用 64 GB 系統記憶體加上 85 GB 的群聯 aiDAPTIV 快取記憶體就在本機端順利執行——記憶體占用大約只有傳統部署方式的一半 。雖然這場展示更偏向一般企業 AI，而非鎖定合規驗證場景，但它說明了隨著模型體積持續長大，這類設備在本機端執行治理工作負載時，還有多少餘裕可以運用。

ASTRA 引擎如何把合規查驗自動化

資策會的 ASTRA 引擎是讓這台設備不只是高效能迷你電腦的關鍵軟體層。它把源自歐盟 AI 法案（EU AI Act）、**OWASP LLM 十大風險（OWASP LLM Top 10）以及美國國家標準暨技術研究院 AI 風險管理框架（NIST AI RMF）**等國際規範中的監管要求，編碼成機器能夠執行的檢驗項目 。比起動輒耗時數週的人工稽核週期，這台設備在 AI 模型載入或更新當下，就能自動執行整套合規掃描。所有檢查都在本機完成，因此敏感的病例資料、金融交易紀錄或企業專屬的製造參數，從頭到尾都不會離開設備本身 。

這套設計對症下藥地處理了三個讓雲端合規窒礙難行的實務限制：

• **延遲與頻寬：**本機推論省去了資料往返合規伺服器的時間，可以在模型載入或推論管線中即時完成法規比對。
• **資料落地主權：**受監管產業通常禁止把原始資料傳送到可控制的範圍之外；在設備端完成驗證，就是讓資料平面完全留在那道邊界內。
• **持續合規：**程式碼驅動的檢查項目，可以連同法條本身一起進行版本控管，日後面對更新的規範（尤其是歐盟 AI 法案逐步出爐的施行細則）時，重新驗證也相對容易。

誰需要一台本機端的合規驗證設備

資策會與東擎科技將這款設備預設在三大產業場景，因為這些地方導入 AI 的渴望與監管風險之間的拉扯最為劇烈 ：

• **醫療保健：**AI 輔助用藥安全代理人需要極低延遲的推論，同時必須遵守嚴格的患者隱私法規。這台設備在 COMPUTEX 現場，就是跟同樣以 AI BOX-A395 為基礎、結合台灣 AI 雲 AFS AI Hub 的全本機端「用藥安全 AI 代理系統」一起展出 。
• **金融服務：**交易演算法、信用評分模型、詐欺偵測系統，全都落在歐盟 AI 法案高風險類別的適用範圍內。在邊緣端執行合規檢查，可以確保交易資料從頭到尾都留在機構內部。
• **精密製造：**智慧工廠應用——包含現場同步展出的語音維修決策輔助功能——依賴本機端的大型語言模型提供即時判斷。一層內建在設備上的合規防護，讓製造業者在導入這些工具的同時，不至於牴觸出口管制或廠區安全政策 。

值得繼續關注的事

這款設備的亮相時機拿捏得相當精準：歐盟 AI 法案已在 2024 年正式生效，針對高風險 AI 系統的強制執行將從 2027 年起分階段上路。一套能把 NIST 和 OWASP 的控制措施跟歐盟規則一起編碼進去的邊緣原生合規工具，為受監管產業提供了市場上還不多見的「單箱搞定」選項。

不過，目前這些宣示仍建立在早期展示的基礎上。現有資料可以佐證 COMPUTEX 的展出以及底層硬體規格，但獨立的效能標竿測試、真實環境的吞吐量數據，以及 ASTRA 引擎如何持續追蹤不斷演變的法規文本等細節，都還沒有公開 。受監管的企業應密切關注資策會與東擎科技後續有關認證與第三方測試的消息。

對臺灣硬體廠商而言，這套設備代表了一次有意識的價值鏈向上移動——把工業等級的邊緣運算能力，跟本土自主的治理智慧財產權結合在一起。如果這個模式能夠擴大，或許就能成為其他司法管轄區的參考藍圖：既要一套可供查驗、可供稽核的 AI 治理機制，又絕不能犧牲資料落地的底線。