Outsider Enterprise: Bên trong đường dây tội phạm dùng Gemini AI để lừa đảo 'quy mô công nghiệp'

Outsider Enterprise: Chuỗi cung ứng tội phạm kiểu mới

Điểm đáng sợ của Outsider Enterprise không nằm ở kỹ thuật tấn công quá cao siêu, mà nằm ở mô hình kinh doanh tội phạm chuyên nghiệp của chúng . Có thể hình dung chúng như một dịch vụ cung cấp phần mềm (SaaS – Software as a Service) trong thế giới ngầm. Sản phẩm cốt lõi là một bot hoạt động trên nền tảng nhắn tin Telegram. Chỉ với giá 88 USD mỗi tuần (khoảng hơn 2 triệu đồng) hoặc 200 USD mỗi tháng, bất kỳ tên tội phạm "tay mơ" nào, dù không biết một dòng code, cũng có thể mua bộ công cụ để tạo ra hàng loạt trang web giả mạo và tin nhắn lừa đảo hàng loạt .

Mánh khóe "Hijack" AI Gemini

Nhóm này đã khai thác sức mạnh của AI Gemini theo hai hướng chủ chốt:

• Tự động sản xuất trang web giả mạo hàng loạt: Bộ công cụ sử dụng Gemini để viết mã HTML cho các trang lừa đảo. Những trang này giả dạng ngân hàng, dịch vụ chuyển phát (như FedEx, USPS – bưu điện Mỹ), cơ quan thu phí đường bộ, và thậm chí là chính trang đăng nhập của Google . Nhờ AI, kẻ gian có thể tạo ra số lượng lớn các trang web tinh vi, sắc nét đến từng pixel chỉ trong vài giây .
• Qua mặt hàng rào an toàn của AI: Để tránh các bộ lọc lạm dụng của Gemini, kẻ điều khiển đã không yêu cầu thẳng thừng "tạo một trang lừa đảo". Thay vào đó, chúng ngụy trang câu lệnh dưới dạng những công việc vô hại, ví dụ: "tạo một trang HTML cho thông báo nhận bưu phẩm". Chiêu trò này đã vô hiệu hóa các cơ chế bảo vệ an toàn của Gemini .

Bằng cách tự động hóa việc tạo website bằng AI, Outsider đã xóa bỏ hoàn toàn rào cản kỹ thuật, biến một thủ đoạn phức tạp thành một dây chuyền sản xuất quy mô công nghiệp. Cáo trạng của Google cho biết mạng lưới này đã triển khai hơn 1 triệu trang web lừa đảo và gửi hơn 2,5 triệu tin nhắn rác chỉ riêng cho người dùng Android tại Mỹ chỉ trong hai tuần của tháng 5 .

Mô hình tổ chức như một công ty đa quốc gia

Vụ kiện công bố một cơ cấu tổ chức cực kỳ tinh vi, chia thành ít nhất năm bộ phận chuyên môn hóa, không khác gì một tập đoàn hợp pháp :

Sự phân công lao động chặt chẽ này, kết hợp với sức mạnh tự động hóa của AI, cho phép Outsider Enterprise hoạt động với hiệu suất khó tin, biến một băng nhóm tội phạm thành một cỗ máy "kinh doanh lừa đảo B2B" .

Những hệ lụy lớn hơn cho kỷ nguyên AI

Vụ việc này đặt ra những vấn đề mang tính toàn cầu về an ninh mạng:

• "Bình dân hóa" tội phạm mạng: AI đã trở thành công cụ để bất kỳ ai cũng có thể thực hiện những vụ lừa đảo tinh vi mà trước đây chỉ dành cho hacker chuyên nghiệp. Đây là sự chuyển dịch nguy hiểm sang mô hình tội phạm dưới dạng dịch vụ được hỗ trợ bởi AI .
• Đòn pháp lý tiên phong: Đây là lần đầu tiên Google kiện một tổ chức về hành vi lạm dụng các sản phẩm AI tạo sinh của mình . Động thái này cho thấy các tập đoàn công nghệ không chỉ dừng lại ở việc vá lỗi kỹ thuật, mà sẵn sàng dùng các biện pháp pháp lý để chặt đứt toàn bộ chuỗi cung ứng tội phạm.
• Mô hình hợp tác công - tư mới: Sự phối hợp giữa Google, FBI, các nhà mạng lớn của Mỹ như AT&T, T-Mobile, Verizon, cùng Lumen Technologies minh chứng rằng việc ngăn chặn tội phạm mạng dùng AI đòi hỏi nỗ lực chung tay của các nhà phát triển AI, hạ tầng viễn thông và cơ quan thực thi pháp luật .
• Lỗ hổng pháp lý lộ rõ: Google đã tận dụng vụ kiện này để kêu gọi cập nhật luật pháp, xử lý hình sự các hành vi vũ khí hóa AI tạo sinh cho mục đích lừa đảo, điều mà các đạo luật hiện hành chưa theo kịp .

Một điểm quan trọng: Đơn kiện của Google là một vụ kiện dân sự. Những cáo buộc chống lại Outsider Enterprise vẫn chưa được tòa án chứng minh và danh tính cụ thể của những kẻ điều hành vẫn chưa được công khai. Con số thiệt hại 1,9 tỷ USD và 3,87 triệu thẻ tín dụng là ước tính của FBI trong quá trình điều tra, không phải là phán quyết cuối cùng . Dù vậy, quy mô và sự tinh vi được tiết lộ trong vụ kiện cũng là hồi chuông cảnh tỉnh rất lớn cho mọi người dùng Internet.