Phantom Squatting là gì? Mối đe dọa mới nổi khi AI 'ảo giác' tiếp tay cho tin tặc chiếm đoạt tên miền

Bước 3: Khai thác lòng tin của người dùng. Nạn nhân — dù là người dùng thông thường hay một tác nhân AI tự động — theo liên kết do AI tạo ra và rơi thẳng vào bẫy . Vào thời điểm một nguồn cấp dữ liệu bảo mật truyền thống đánh dấu tên miền đó là độc hại, thì thiệt hại thường đã xảy ra .

Đây là một sự thay đổi đáng kể so với hình thức cybersquatting (chiếm đoạt tên miền) truyền thống. Cybersquatting cổ điển dựa vào lỗi gõ phím của con người hoặc các tên miền trông giống tương tự như "netflix-payments[.]com" . Phantom squatting thay thế lỗi của con người bằng 'ảo giác' của AI, biến điểm yếu của chính mô hình thành vectơ tấn công .

Ví Dụ Thực Tế và Các Kỹ Thuật Liên Quan

Palo Alto Networks chưa công bố công khai các tên thương hiệu hoặc tên miền cụ thể bị bắt gặp trong các chiến dịch phantom squatting, nhưng một số mô hình đã được ghi nhận cung cấp bối cảnh chi tiết .

Mạo danh hỗ trợ khách hàng. Phantom squatting có thể được sử dụng để tạo các liên kết lừa đảo mạo danh các URL hỗ trợ thương hiệu hợp pháp do hệ thống AI tạo ra . Cuộc tấn công khai thác thực tế rằng người dùng có thể tin tưởng một liên kết hơn khi nó dường như đến từ một trợ lý AI .

Lừa đảo và chiếm đoạt mang chủ đề AI. Palo Alto Networks đã báo cáo sự bùng nổ của các kỹ thuật phần mềm độc hại và lừa đảo truyền thống lợi dụng sự quan tâm đến AI và ChatGPT . Từ tháng 11 năm 2022 đến tháng 4 năm 2023, Unit 42 đã quan sát thấy mức tăng 910% trong số lượng đăng ký tên miền liên quan đến ChatGPT hàng tháng và có tới 118 phát hiện URL độc hại liên quan đến ChatGPT mỗi ngày . Mục tiêu của tin tặc là dụ người dùng ChatGPT truy cập vào các trang web có vẻ liên quan nhưng thực chất được thiết kế để lây nhiễm phần mềm độc hại .

Kỹ thuật liên quan: "Slopsquatting." Một biến thể trong chuỗi cung ứng song song — được gọi là slopsquatting — nhắm mục tiêu vào tên gói phần mềm do AI 'ảo giác' thay vì tên miền . Trong mô hình này, tin tặc xác định tên gói hư cấu mà LLM thường xuyên đề xuất cho các tác vụ lập trình, đăng ký các tên đó trên các kho lưu trữ công cộng như npm, PyPI hoặc RubyGems và nhúng phần mềm độc hại . Khi một nhà phát triển yêu cầu trợ lý AI tìm giải pháp, trợ lý sẽ tự tin đề xuất gói 'ma' đó và nhà phát triển sẽ cài đặt nó, tin tưởng vào giọng điệu đầy uy quyền của AI . Nghiên cứu trên 16 mô hình cho thấy khoảng 19,7% các gói phần mềm được các công cụ mã hóa AI đề xuất là hoàn toàn hư cấu — hơn 205.000 tên gói bị 'ảo giác' .

Các Biện Pháp Phòng Thủ Palo Alto Networks Khuyến Nghị

Palo Alto Networks đề xuất nhiều lớp phòng thủ để giảm thiểu rủi ro từ phantom squatting:

1. Giám sát tên miền chủ động. Các tổ chức nên theo dõi các tên miền đáng ngờ. Hệ thống dựa trên LLM cũng có thể được sử dụng để phòng thủ: nghiên cứu về DomainLynx cho thấy một hệ thống AI tổng hợp đã đạt độ chính xác 94,7% trên tập dữ liệu gồm 1.649 tên miền bị chiếm đoạt, phát hiện 34.359 tên miền bị chiếm đoạt từ 2,09 triệu tên miền mới trong một thử nghiệm thực tế kéo dài một tháng .

2. Lọc tên miền mới đăng ký (NRD). Advanced DNS Security của Palo Alto Networks bao gồm một chữ ký cho các tên miền mới đăng ký (UTID 109020001) . Tên miền mới đăng ký là những tên miền vừa được thêm bởi nhà điều hành TLD hoặc thay đổi quyền sở hữu trong vòng 32 ngày qua và nhiều tên miền trong số đó được sử dụng để hỗ trợ các hoạt động độc hại như vận hành máy chủ chỉ huy và kiểm soát hoặc phát tán phần mềm độc hại .

3. Bảo vệ ở lớp DNS. Các biện pháp kiểm soát bảo mật DNS có thể kiểm tra hoặc chặn lưu lượng truy cập đến các tên miền rủi ro, bao gồm cả NRD thường bị lạm dụng trong lừa đảo và kỹ thuật xã hội . Advanced URL Filtering (AURL), được hỗ trợ bởi Precision AI và các bộ phát hiện học sâu nội tuyến thời gian thực, có thể xác định và chặn các tên miền lừa đảo chưa từng thấy ngay khi chúng xuất hiện .

4. Giáo dục người dùng và xác minh đầu ra AI. Người dùng nên thận trọng với các URL do AI tạo ra và xác minh các đầu ra quan trọng thông qua đánh giá của con người, cơ sở dữ liệu đáng tin cậy, API hoặc kiến thức nền tảng được quản lý . Việc đối chiếu các phản hồi của mô hình với các nguồn có thẩm quyền là rất quan trọng đối với mọi trường hợp sử dụng rủi ro cao .

5. 'Rào chắn' cho tác nhân AI. Các tác nhân tự động và quy trình làm việc có sự hỗ trợ của AI nên xác thực các URL, tên gói và các tài nguyên bên ngoài khác được tạo ra dựa trên các nguồn đáng tin cậy trước khi tìm nạp, cài đặt hoặc thực hiện hành động trên chúng . Điều này đặc biệt quan trọng đối với các trợ lý viết mã, nơi biến thể slopsquatting gây ra rủi ro trực tiếp cho các quy trình phát triển .

Kết Luận

Phantom squatting là một mối đe dọa mới nổi trong thực tế, vũ khí hóa một lỗi AI đã biết — 'ảo giác' — chống lại những người dùng tin tưởng vào các đầu ra do AI tạo ra . Cuộc tấn công khai thác chính tính năng làm cho LLM trở nên hữu ích: khả năng tạo ra nội dung nghe có vẻ hợp lý với sự tự tin, ngay cả khi tham chiếu cơ bản không tồn tại. Để phòng thủ, các tổ chức cần một cách tiếp cận nhiều lớp kết hợp giám sát tên miền chủ động, lọc DNS/NRD nghiêm ngặt, giáo dục người dùng và các rào chắn cho tác nhân AI, coi các URL do AI tạo ra là không đáng tin cậy cho đến khi được xác minh độc lập .