第二步:註冊幻覺域名。 黑客一旦搵到呢啲幻覺域名,就會用幾蚊美金買咗個未註冊嘅域名,然後喺上面整好惡意嘅基建,等緊人上當 。
第三步:利用用戶嘅信任。 受害者——無論係真人用戶定係AI Agent——只要跟住AI生成嘅連結去點,就會中招 。等傳統嘅安全系統偵測到呢個域名有問題嗰陣,往往已經太遲 。
呢種攻擊同傳統嘅「網域騎劫」(cybersquatting)好唔同。傳統嘅騎劫係靠人打字打錯,例如「netflix-payments[.]com」 。而「幽靈網域騎劫」就用AI嘅幻覺嚟代替人類嘅錯誤,將模型本身嘅缺陷變成攻擊嘅武器 。
Palo Alto Networks冇公開講到具體邊啲品牌或者域名中過招,但有幾個已知嘅模式提供咗好實在嘅背景 。
扮客戶服務。 黑客可以用呢種手法整啲釣魚連結,扮成AI系統生成嘅品牌支援網址 。呢啲攻擊利用咗一個心理:當用戶見到個連結好似係AI助手俾嘅,就會更加信任 。
AI主題嘅釣魚同騎劫。 Palo Alto Networks報告話,傳統嘅惡意軟件同釣魚手法都開始利用大家對AI同ChatGPT嘅興趣 。由2022年11月到2023年4月,Unit 42觀察到同ChatGPT相關嘅域名註冊數量每月增加咗910%,每日最多偵測到118個同ChatGPT有關嘅惡意URL 。黑客嘅目標就係引ChatGPT嘅用戶去啲睇落相關但實質有毒嘅網站 。
相關手法:「垃圾騎劫」(Slopsquatting)。 仲有一個類似嘅供應鏈攻擊手法——叫「垃圾騎劫」——係針對AI幻覺出嚟嘅軟件包,而唔係域名 。黑客會搵出LLM喺編程時經常推薦嘅假軟件包名,然後喺npm、PyPI或者RubyGems呢啲公共倉庫註冊呢啲名,再植入惡意軟件 。當有個開發者問AI助手點樣解決問題,AI助手就好有自信咁推薦個假嘅軟件包,開發者見AI講得咁權威就信咗,跟住安裝 。研究發現,喺16個模型入面,AI編程工具推薦嘅軟件包大約有19.7%係完全老作出嚟嘅——超過205,000個幻覺軟件包名 。
Palo Alto Networks提出咗幾個防禦層面,幫助機構減低「幽靈網域騎劫」嘅風險:
1. 主動監控域名。 機構應該主動監控有冇可疑嘅騎劫域名。其實都可以用LLM嚟做防守:研究顯示,一個叫DomainLynx嘅複合AI系統,喺一個有1,649個騎劫域名嘅測試集入面達到94.7%嘅準確率,喺一個月嘅真實測試中,仲喺209萬個新域名入面偵測到34,359個騎劫域名 。
2. 封鎖新註冊域名(NRD)。 Palo Alto Networks嘅Advanced DNS Security包含一個用嚟偵測新註冊域名嘅簽名(UTID 109020001) 。新註冊域名係指最近由TLD營運商新增或者喺32日內轉過手嘅域名。呢啲域名好多時都係用嚟做壞事,例如用嚟做指揮控制伺服器或者散佈惡意軟件 。
3. DNS層面嘅保護。 DNS安全方案可以檢查或者封鎖去可疑域名嘅流量,特別係新註冊域名,因為呢啲域名成日俾人用嚟做釣魚同社交工程 。Advanced URL Filtering(AURL)由Precision AI同即時深度學習檢測器驅動,可以喺釣魚域名一出世就偵測同封鎖 。
4. 教育用戶同核實AI輸出。 用戶要小心對待AI生成嘅URL,尤其係高風險嘅輸出,最好用人手、可靠嘅數據庫、API或者知識庫再核實一次 。對於高風險嘅應用,一定要用權威嘅源頭去對翻AI嘅答案 。
5. AI Agent嘅安全閘門。 自動化Agent同AI輔助嘅工作流程,應該先驗證AI生成嘅URL、軟件包名或者其他外部資源,確定係嚟自信得過嘅源頭,先至好去存取或者安裝 。呢點對於編程助手嚟講尤其重要,因為「垃圾騎劫」呢種變種攻擊會直接威脅到開發流程 。
「幽靈網域騎劫」係一個實實在在嘅新興威脅,佢利用AI嘅一個已知缺陷——幻覺——嚟攻擊信任AI輸出嘅用戶 。呢種攻擊正正係用咗LLM最有用嘅特性——能夠充滿自信咁生成聽落好合理嘅內容,即使個參考來源根本唔存在。要防範佢,機構需要一個多層次嘅防守策略:主動監控域名、嚴格嘅DNS同NRD過濾、用戶教育,以及為AI Agent加裝安全閘門,要將AI生成嘅URL當成唔可信,直到有獨立驗證 。
第二步:註冊幻覺域名。 黑客一旦搵到呢啲幻覺域名,就會用幾蚊美金買咗個未註冊嘅域名,然後喺上面整好惡意嘅基建,等緊人上當 。
第三步:利用用戶嘅信任。 受害者——無論係真人用戶定係AI Agent——只要跟住AI生成嘅連結去點,就會中招 。等傳統嘅安全系統偵測到呢個域名有問題嗰陣,往往已經太遲 。
呢種攻擊同傳統嘅「網域騎劫」(cybersquatting)好唔同。傳統嘅騎劫係靠人打字打錯,例如「netflix-payments[.]com」 。而「幽靈網域騎劫」就用AI嘅幻覺嚟代替人類嘅錯誤,將模型本身嘅缺陷變成攻擊嘅武器 。
Palo Alto Networks冇公開講到具體邊啲品牌或者域名中過招,但有幾個已知嘅模式提供咗好實在嘅背景 。
扮客戶服務。 黑客可以用呢種手法整啲釣魚連結,扮成AI系統生成嘅品牌支援網址 。呢啲攻擊利用咗一個心理:當用戶見到個連結好似係AI助手俾嘅,就會更加信任 。
AI主題嘅釣魚同騎劫。 Palo Alto Networks報告話,傳統嘅惡意軟件同釣魚手法都開始利用大家對AI同ChatGPT嘅興趣 。由2022年11月到2023年4月,Unit 42觀察到同ChatGPT相關嘅域名註冊數量每月增加咗910%,每日最多偵測到118個同ChatGPT有關嘅惡意URL 。黑客嘅目標就係引ChatGPT嘅用戶去啲睇落相關但實質有毒嘅網站 。
相關手法:「垃圾騎劫」(Slopsquatting)。 仲有一個類似嘅供應鏈攻擊手法——叫「垃圾騎劫」——係針對AI幻覺出嚟嘅軟件包,而唔係域名 。黑客會搵出LLM喺編程時經常推薦嘅假軟件包名,然後喺npm、PyPI或者RubyGems呢啲公共倉庫註冊呢啲名,再植入惡意軟件 。當有個開發者問AI助手點樣解決問題,AI助手就好有自信咁推薦個假嘅軟件包,開發者見AI講得咁權威就信咗,跟住安裝 。研究發現,喺16個模型入面,AI編程工具推薦嘅軟件包大約有19.7%係完全老作出嚟嘅——超過205,000個幻覺軟件包名 。
Palo Alto Networks提出咗幾個防禦層面,幫助機構減低「幽靈網域騎劫」嘅風險:
1. 主動監控域名。 機構應該主動監控有冇可疑嘅騎劫域名。其實都可以用LLM嚟做防守:研究顯示,一個叫DomainLynx嘅複合AI系統,喺一個有1,649個騎劫域名嘅測試集入面達到94.7%嘅準確率,喺一個月嘅真實測試中,仲喺209萬個新域名入面偵測到34,359個騎劫域名 。
2. 封鎖新註冊域名(NRD)。 Palo Alto Networks嘅Advanced DNS Security包含一個用嚟偵測新註冊域名嘅簽名(UTID 109020001) 。新註冊域名係指最近由TLD營運商新增或者喺32日內轉過手嘅域名。呢啲域名好多時都係用嚟做壞事,例如用嚟做指揮控制伺服器或者散佈惡意軟件 。
3. DNS層面嘅保護。 DNS安全方案可以檢查或者封鎖去可疑域名嘅流量,特別係新註冊域名,因為呢啲域名成日俾人用嚟做釣魚同社交工程 。Advanced URL Filtering(AURL)由Precision AI同即時深度學習檢測器驅動,可以喺釣魚域名一出世就偵測同封鎖 。
4. 教育用戶同核實AI輸出。 用戶要小心對待AI生成嘅URL,尤其係高風險嘅輸出,最好用人手、可靠嘅數據庫、API或者知識庫再核實一次 。對於高風險嘅應用,一定要用權威嘅源頭去對翻AI嘅答案 。
5. AI Agent嘅安全閘門。 自動化Agent同AI輔助嘅工作流程,應該先驗證AI生成嘅URL、軟件包名或者其他外部資源,確定係嚟自信得過嘅源頭,先至好去存取或者安裝 。呢點對於編程助手嚟講尤其重要,因為「垃圾騎劫」呢種變種攻擊會直接威脅到開發流程 。
「幽靈網域騎劫」係一個實實在在嘅新興威脅,佢利用AI嘅一個已知缺陷——幻覺——嚟攻擊信任AI輸出嘅用戶 。呢種攻擊正正係用咗LLM最有用嘅特性——能夠充滿自信咁生成聽落好合理嘅內容,即使個參考來源根本唔存在。要防範佢,機構需要一個多層次嘅防守策略:主動監控域名、嚴格嘅DNS同NRD過濾、用戶教育,以及為AI Agent加裝安全閘門,要將AI生成嘅URL當成唔可信,直到有獨立驗證 。