第二步:註冊幽靈域名。 一旦確定了幻覺域名,攻擊者便以幾塊錢的價格購買該未註冊域名,設置惡意基礎設施,然後等待 。
第三步:利用使用者信任。 受害者——無論是人類使用者還是自主AI代理——點擊了AI生成的連結,就一腳踏入了陷阱 。等到傳統安全服務將該域名標記為惡意時,損害往往已經造成 。
這代表了傳統網域劫持(cybersquatting)的一次重大轉變。傳統網域劫持依賴於人類的打字錯誤或相似域名,例如「netflix-payments[.]com」。幽靈域名佔據則用AI幻覺取代了人為錯誤,將模型自身的缺陷變成了攻擊向量 。
Palo Alto Networks尚未公開揭露在幽靈域名佔據活動中確切被鎖定的品牌名稱或域名,但幾個有記錄的模式提供了具體的脈絡 。
客服冒充。 幽靈域名佔據可用來建立釣魚連結,冒充由AI系統生成的合法品牌或支援URL 。此攻擊利用了使用者對AI助手提供的連結信任度更高的心理 。
AI主題釣魚與域名佔據。 Palo Alto Networks報告指出,利用大眾對AI和ChatGPT興趣的傳統惡意軟體和釣魚手法正在激增 。2022年11月至2023年4月期間,Unit 42觀察到與ChatGPT相關域名的月註冊量成長了910%,每天最多偵測到118個ChatGPT相關的惡意URL 。攻擊者的目標是引誘ChatGPT使用者造訪看似相關的網站,進而感染他們的裝置 。
相關手法:「Slopsquatting」(垃圾域名佔據)。 另一個平行的供應鏈變種——稱為「Slopsquatting」——目標不是域名,而是AI幻覺產生的軟體套件名稱 。在此模型中,攻擊者找出LLM在編碼任務中常會「推薦」的虛構套件名稱,然後在npm、PyPI或RubyGems等公開儲存庫註冊這些名稱,並植入惡意軟體 。當開發者向AI助手尋求解決方案時,助手會自信地推薦這個幽靈套件,開發者基於對AI權威口吻的信任,便會安裝它 。針對16個模型的研究發現,AI編碼工具推薦的套件中,約有19.7%(超過20.5萬個)是完全虛構的 。
Palo Alto Networks提出了多層次的防禦策略來降低幽靈域名佔據的風險:
1. 主動域名監控。 組織應監控可疑的域名佔據活動。LLM系統也可用於防禦目的:關於DomainLynx的研究顯示,一個複合式AI系統在1,649個域名佔據的資料集上達到了94.7%的準確率,並在為期一個月的真實世界測試中,從209萬個新域名裡偵測出34,359個域名佔據案例 。
2. 新註冊域名(NRD)過濾。 Palo Alto Networks的Advanced DNS Security包含一個新註冊域名的特徵(UTID 109020001)。新註冊域名是指最近由頂級域名(TLD)運營商新增,或在過去32天內變更所有權的域名,其中許多被用於控制伺服器或散佈惡意軟體等非法活動 。
3. DNS層級防護。 DNS安全控制可以檢查或封鎖對高風險域名的流量,包括常在釣魚和社交工程中被濫用的NRD 。Advanced URL Filtering(AURL)由Precision AI和即時內嵌式深度學習偵測器驅動,能夠在新興的釣魚域名出現時,立即識別並封鎖 。
4. 使用者教育與AI輸出驗證。 使用者應謹慎對待AI生成的URL,並對高風險的輸出結果進行人工審查,或與可信資料庫、API及精選知識庫進行比對驗證 。對於任何高風險的使用案例,將模型回應與權威來源進行交叉核對至關重要 。
5. AI代理護欄。 自主AI代理和工作流程應在抓取、安裝或執行之前,先針對生成的URL、套件名稱及其他外部資源,與可信來源進行驗證 。這對於編碼助手尤其重要,因為「Slopsquatting」變種對開發流程構成直接風險 。
幽靈域名佔據是一個實實在在的新興威脅,它將AI已知的缺陷——幻覺——武器化,用來對付那些信任AI生成內容的使用者 。此攻擊利用了LLM最有用的特性:它們能自信地生成聽起來合情合理的內容,即使其依據的參考並不存在。為了防禦此威脅,組織需要採用多層次方法,結合主動域名監控、嚴格的DNS/NRD過濾、使用者教育,以及將AI生成的URL視為未經獨立驗證前不可信的AI代理護欄 。
第二步:註冊幽靈域名。 一旦確定了幻覺域名,攻擊者便以幾塊錢的價格購買該未註冊域名,設置惡意基礎設施,然後等待 。
第三步:利用使用者信任。 受害者——無論是人類使用者還是自主AI代理——點擊了AI生成的連結,就一腳踏入了陷阱 。等到傳統安全服務將該域名標記為惡意時,損害往往已經造成 。
這代表了傳統網域劫持(cybersquatting)的一次重大轉變。傳統網域劫持依賴於人類的打字錯誤或相似域名,例如「netflix-payments[.]com」。幽靈域名佔據則用AI幻覺取代了人為錯誤,將模型自身的缺陷變成了攻擊向量 。
Palo Alto Networks尚未公開揭露在幽靈域名佔據活動中確切被鎖定的品牌名稱或域名,但幾個有記錄的模式提供了具體的脈絡 。
客服冒充。 幽靈域名佔據可用來建立釣魚連結,冒充由AI系統生成的合法品牌或支援URL 。此攻擊利用了使用者對AI助手提供的連結信任度更高的心理 。
AI主題釣魚與域名佔據。 Palo Alto Networks報告指出,利用大眾對AI和ChatGPT興趣的傳統惡意軟體和釣魚手法正在激增 。2022年11月至2023年4月期間,Unit 42觀察到與ChatGPT相關域名的月註冊量成長了910%,每天最多偵測到118個ChatGPT相關的惡意URL 。攻擊者的目標是引誘ChatGPT使用者造訪看似相關的網站,進而感染他們的裝置 。
相關手法:「Slopsquatting」(垃圾域名佔據)。 另一個平行的供應鏈變種——稱為「Slopsquatting」——目標不是域名,而是AI幻覺產生的軟體套件名稱 。在此模型中,攻擊者找出LLM在編碼任務中常會「推薦」的虛構套件名稱,然後在npm、PyPI或RubyGems等公開儲存庫註冊這些名稱,並植入惡意軟體 。當開發者向AI助手尋求解決方案時,助手會自信地推薦這個幽靈套件,開發者基於對AI權威口吻的信任,便會安裝它 。針對16個模型的研究發現,AI編碼工具推薦的套件中,約有19.7%(超過20.5萬個)是完全虛構的 。
Palo Alto Networks提出了多層次的防禦策略來降低幽靈域名佔據的風險:
1. 主動域名監控。 組織應監控可疑的域名佔據活動。LLM系統也可用於防禦目的:關於DomainLynx的研究顯示,一個複合式AI系統在1,649個域名佔據的資料集上達到了94.7%的準確率,並在為期一個月的真實世界測試中,從209萬個新域名裡偵測出34,359個域名佔據案例 。
2. 新註冊域名(NRD)過濾。 Palo Alto Networks的Advanced DNS Security包含一個新註冊域名的特徵(UTID 109020001)。新註冊域名是指最近由頂級域名(TLD)運營商新增,或在過去32天內變更所有權的域名,其中許多被用於控制伺服器或散佈惡意軟體等非法活動 。
3. DNS層級防護。 DNS安全控制可以檢查或封鎖對高風險域名的流量,包括常在釣魚和社交工程中被濫用的NRD 。Advanced URL Filtering(AURL)由Precision AI和即時內嵌式深度學習偵測器驅動,能夠在新興的釣魚域名出現時,立即識別並封鎖 。
4. 使用者教育與AI輸出驗證。 使用者應謹慎對待AI生成的URL,並對高風險的輸出結果進行人工審查,或與可信資料庫、API及精選知識庫進行比對驗證 。對於任何高風險的使用案例,將模型回應與權威來源進行交叉核對至關重要 。
5. AI代理護欄。 自主AI代理和工作流程應在抓取、安裝或執行之前,先針對生成的URL、套件名稱及其他外部資源,與可信來源進行驗證 。這對於編碼助手尤其重要,因為「Slopsquatting」變種對開發流程構成直接風險 。
幽靈域名佔據是一個實實在在的新興威脅,它將AI已知的缺陷——幻覺——武器化,用來對付那些信任AI生成內容的使用者 。此攻擊利用了LLM最有用的特性:它們能自信地生成聽起來合情合理的內容,即使其依據的參考並不存在。為了防禦此威脅,組織需要採用多層次方法,結合主動域名監控、嚴格的DNS/NRD過濾、使用者教育,以及將AI生成的URL視為未經獨立驗證前不可信的AI代理護欄 。