Google 首度針對 AI 濫用提告：揭開中國網路犯罪集團「局外人企業」內幕

犯罪手法：如何將 Gemini AI 變成詐騙利器

該集團以兩種關鍵手法利用 Gemini：

• 自動化生成假網站：這套工具包會利用 Gemini 來產生釣魚網頁的 HTML 程式碼，模仿的對象涵蓋銀行、快遞服務（如 FedEx、美國郵政）、公路收費單位，以及 Google 自家的登入頁面。AI 能夠大量製造出精美且極具說服力的登陸頁面 。
• 繞過安全護欄：操作者並非直接要求 AI 編寫釣魚頁面，而是將惡意指令巧妙地「包裝」成看似無害的任務。舉例來說，他們會要求 AI「生成一個包裹配送通知的 HTML 頁面」，而非明確地說要製作一個釣魚頁面，以此來規避 Gemini 的內容過濾機制 。

透過 AI 自動化生成網站，「局外人企業」大幅降低了詐騙的技術門檻，將原本需要手動進行的犯罪流程，轉變為一個工業化、規模化的生產線。Google 的訴狀指控，該網路集團至少部署了 超過 100 萬個詐騙網站，並向美國手機用戶發送了 超過 200 萬則詐騙簡訊 。

訴狀揭露的集團組織結構

訴訟文件與相關調查描繪出一個分工精細、幾乎如同企業般的組織，內部至少劃分為 五個專業部門 ：

這種專業分工，再結合 AI 驅動的自動化，使得「局外人企業」的運作規模與效率，幾乎與合法的軟體即服務（Software-as-a-Service, SaaS）公司無異，徹底顛覆了人們對傳統犯罪集團的想像 。

更深遠的影響：AI 詐騙時代的來臨

• 網路犯罪的「民主化」：透過將 AI 嵌入一個廉價且易於使用的工具包，「局外人企業」讓毫無程式編寫能力的門外漢，也能發動極為複雜的釣魚攻擊。這標誌著犯罪型態的轉變：從針對性的駭客攻擊，邁向 商品化、AI 驅動的「詐騙即服務」 。
• 史無前例的法律行動：這是 Google 首次針對濫用其生成式 AI 產品的行為提起訴訟 。這也釋放出一個強烈訊號：科技公司已不再滿足於技術面的被動防堵，他們願意進入司法程序，主動出擊，從源頭斬斷犯罪的供應鏈。
• 公私協力的新執法模式：Google 與 FBI、AT&T、T-Mobile、Verizon 和 Lumen Technologies 等電信商聯手合作，顯示要有效瓦解 AI 驅動的詐騙，需要 AI 供應商、電信基礎設施業者與執法單位之間前所未有的協同行動 。
• 凸顯法規的不足：Google 也藉此訴訟呼籲，應更新法律以因應 AI 時代的新型犯罪，例如將「利用生成式 AI 進行詐騙」明定為刑事犯罪，因為現行法令對此類新興手法的規範可能尚存有模糊地帶 。

重要提醒：這是一起民事訴訟，而非刑事定罪。訴狀中對「局外人企業」的所有指控，目前尚未在法庭上獲得證實，且該集團的幕後操盤手也未被公開指名道姓。訴狀中所引用的 19 億美元損失及 387 萬張信用卡等數據，均為 FBI 的估算，並非最終的司法裁定結果 。