為何代理式 AI 被視為新型資安風險

ESET 特別警告 代理式 AI 系統 的興起。這類 AI 代理能夠自主完成任務，例如：

• 呼叫工具或 API
• 連接資料庫與外部服務
• 存取外部插件、資料集或程式庫
• 與其他系統或代理進行互動

這些能力讓 AI 代理成為企業軟體供應鏈中的新一層。若管理不當，它們可能在 內部系統與外部服務之間建立新的連線通道，為攻擊者提供入侵機會，例如竊取資料或執行惡意指令。

ESET 表示，自 2026 年 3 月以來，其安全技術已經掃描 近 800,000 個獨特的 AI「技能」（AI skills）。在這些技能中：

• 約 25,000 個被標記為可疑
• 超過 3,000 個被判定為惡意並被封鎖

這顯示 AI 代理生態系正在快速擴張，同時也帶來新的安全風險。

4,000 萬歐元投資將投入的三大技術方向

ESET 計畫把這筆資金集中在三個核心領域，以確保 AI 系統本身也能被有效保護。

1. 專為資安打造的基礎 AI 模型

公司將開發 安全導向（security‑first）的 AI 基礎模型，這些模型將以威脅情報與資安遙測資料為主要訓練來源，而非一般用途資料。

目標是讓 AI 能更準確地：

• 辨識複雜攻擊模式
• 分析大量安全事件
• 協助資安分析師理解威脅行為。

2. 分層式 AI 資安架構

ESET 也計畫建立 多層 AI 安全防護堆疊（AI security stack），用於監控企業內 AI 互動流程。

預計功能包括：

• 監控 AI 代理與企業系統之間的通訊
• 分析 AI 提示（prompts）與輸出內容
• 檢測 AI 互動中出現的惡意腳本、連結或行為

其中一項展示的技術是 ESET Secure AI Relay。這個系統會作為 使用者、AI 代理、企業應用程式與 AI 模型之間的中介層，用來檢查與控制所有 AI 通訊。

此外，ESET 也計畫強化既有 AI 驅動資安平台，例如 ESET LiveGrid、LiveCortex 與 LiveGuard，利用它們分析大量資安遙測資料並偵測異常行為。

3. 新一代 AI 安全營運中心（SOC）

投資的一部分將用於打造 AI 驅動的安全營運中心（Security Operations Center, SOC）。

這個新系統將透過 AI 模型與威脅情報結合，分析海量安全資料，讓資安團隊能更快偵測並回應攻擊事件。

三年招聘計畫與全球擴張

ESET 同時宣布一項 三年人才擴編計畫。

公司預計將研發團隊擴大至 約 1,000 名研究員與工程師，以加速 AI 資安技術開發。

在全球布局方面，ESET 也將新增 三個國際辦公室：

• 印度
• 法國
• 荷蘭

這些據點將協助公司拓展市場並吸引更多資安與 AI 人才。

推動「歐洲技術主權」的資安策略

ESET 將這筆投資定位為更大的戰略目標之一：提升歐洲在 AI 與資安領域的技術自主性。

公司管理層認為，未來的 AI 資安系統不應完全依賴由大型科技公司控制的 AI 模型。相反地，企業應能使用 透明、可控且獨立的 AI 安全技術。

透過開發自家的 AI 模型與安全基礎架構，ESET 希望在全球 AI 安全競賽中建立更強的歐洲技術能力。

AI 時代的資安競賽正在加速

ESET 的投資也反映出整個資安產業的一個重要轉變。

隨著 AI 代理逐漸融入企業工作流程，自動化與整合能力雖能提升效率，但同時也可能被攻擊者利用。

因此，資安公司正開始將焦點從「保護電腦與網路」擴展到 「保護 AI 系統本身」。ESET 的 4,000 萬歐元投資，正是這場新一輪資安競賽的最新例子。

為何代理式 AI 被視為新型資安風險

ESET 特別警告 代理式 AI 系統 的興起。這類 AI 代理能夠自主完成任務，例如：

• 呼叫工具或 API
• 連接資料庫與外部服務
• 存取外部插件、資料集或程式庫
• 與其他系統或代理進行互動

這些能力讓 AI 代理成為企業軟體供應鏈中的新一層。若管理不當，它們可能在 內部系統與外部服務之間建立新的連線通道，為攻擊者提供入侵機會，例如竊取資料或執行惡意指令。

ESET 表示，自 2026 年 3 月以來，其安全技術已經掃描 近 800,000 個獨特的 AI「技能」（AI skills）。在這些技能中：

• 約 25,000 個被標記為可疑
• 超過 3,000 個被判定為惡意並被封鎖

這顯示 AI 代理生態系正在快速擴張，同時也帶來新的安全風險。

4,000 萬歐元投資將投入的三大技術方向

ESET 計畫把這筆資金集中在三個核心領域，以確保 AI 系統本身也能被有效保護。

1. 專為資安打造的基礎 AI 模型

公司將開發 安全導向（security‑first）的 AI 基礎模型，這些模型將以威脅情報與資安遙測資料為主要訓練來源，而非一般用途資料。

目標是讓 AI 能更準確地：

• 辨識複雜攻擊模式
• 分析大量安全事件
• 協助資安分析師理解威脅行為。

2. 分層式 AI 資安架構

ESET 也計畫建立 多層 AI 安全防護堆疊（AI security stack），用於監控企業內 AI 互動流程。

預計功能包括：

• 監控 AI 代理與企業系統之間的通訊
• 分析 AI 提示（prompts）與輸出內容
• 檢測 AI 互動中出現的惡意腳本、連結或行為

其中一項展示的技術是 ESET Secure AI Relay。這個系統會作為 使用者、AI 代理、企業應用程式與 AI 模型之間的中介層，用來檢查與控制所有 AI 通訊。

此外，ESET 也計畫強化既有 AI 驅動資安平台，例如 ESET LiveGrid、LiveCortex 與 LiveGuard，利用它們分析大量資安遙測資料並偵測異常行為。

3. 新一代 AI 安全營運中心（SOC）

投資的一部分將用於打造 AI 驅動的安全營運中心（Security Operations Center, SOC）。

這個新系統將透過 AI 模型與威脅情報結合，分析海量安全資料，讓資安團隊能更快偵測並回應攻擊事件。

三年招聘計畫與全球擴張

ESET 同時宣布一項 三年人才擴編計畫。

公司預計將研發團隊擴大至 約 1,000 名研究員與工程師，以加速 AI 資安技術開發。

在全球布局方面，ESET 也將新增 三個國際辦公室：

• 印度
• 法國
• 荷蘭

這些據點將協助公司拓展市場並吸引更多資安與 AI 人才。

推動「歐洲技術主權」的資安策略

ESET 將這筆投資定位為更大的戰略目標之一：提升歐洲在 AI 與資安領域的技術自主性。

公司管理層認為，未來的 AI 資安系統不應完全依賴由大型科技公司控制的 AI 模型。相反地，企業應能使用 透明、可控且獨立的 AI 安全技術。

透過開發自家的 AI 模型與安全基礎架構，ESET 希望在全球 AI 安全競賽中建立更強的歐洲技術能力。

AI 時代的資安競賽正在加速

ESET 的投資也反映出整個資安產業的一個重要轉變。

隨著 AI 代理逐漸融入企業工作流程，自動化與整合能力雖能提升效率，但同時也可能被攻擊者利用。

因此，資安公司正開始將焦點從「保護電腦與網路」擴展到 「保護 AI 系統本身」。ESET 的 4,000 萬歐元投資，正是這場新一輪資安競賽的最新例子。