AI đang biến tấn công mạng từ “trợ lý” thành quy trình tác chiến tự động

Điểm chung trong các phát hiện không phải là AI đã tạo ra một kiểu xâm nhập hoàn toàn mới. Điều thay đổi là AI đang biến các kỹ thuật tấn công vốn quen thuộc thành những quy trình nhiều bước có thể lặp lại: lập kế hoạch, tạo nội dung hoặc mã, kiểm thử, điều chỉnh rồi mở rộng quy mô với ít nhân lực chuyên môn và ít thời gian thao tác trực tiếp hơn. Bằng chứng hiện mạnh nhất ở việc AI tăng tốc và điều phối các chiến dịch truyền thống, chứ chưa chứng minh những hệ thống hoàn toàn độc lập, hoạt động không cần định hướng đáng kể của con người. 107

Từ công cụ hỗ trợ sang tác tử thực hiện nhiều công đoạn

Google mô tả sự dịch chuyển từ các câu lệnh đơn lẻ sang quy trình tác tử tích hợp, trong đó AI có thể hỗ trợ quét mục tiêu, thu thập thông tin xác thực, xử lý lỗi và luân chuyển hạ tầng. Thay vì cần nhiều công cụ và người vận hành riêng rẽ, một số khâu có thể được kết nối thành chu trình thử nghiệm – điều chỉnh nhanh. 11

Tuy nhiên, cần giữ đúng mức độ của kết luận này: Microsoft nhận định phần lớn việc lạm dụng AI hiện vẫn xoay quanh tạo văn bản, mã hoặc nội dung đa phương tiện, chứ không phải AI tự thực hiện toàn bộ quá trình xâm nhập từ đầu đến cuối. 10

AI đang được dùng vào những việc gì?

Theo các báo cáo, những mục đích đã được quan sát hoặc nêu trong các vụ việc gồm:

• nghiên cứu và lập hồ sơ mục tiêu;
• soạn mồi spear-phishing bằng nhiều ngôn ngữ;
• tạo, chỉnh sửa hoặc gỡ lỗi mã độc và script;
• dựng script, hạ tầng và các thành phần phục vụ chiến dịch;
• tóm tắt dữ liệu bị đánh cắp;
• tạo tài liệu và nội dung cho các thủ đoạn thao túng xã hội.

Microsoft cho biết họ đã quan sát tác nhân đe dọa dùng AI để viết mồi phishing, dịch nội dung, tóm tắt dữ liệu lấy cắp, tạo hoặc gỡ lỗi mã độc, cũng như dựng script hay hạ tầng. 10

Các chiến dịch có yếu tố nhà nước và ví dụ ShinyHunters

Anthropic cho biết đã phát hiện và ngăn chặn các hoạt động cố lạm dụng Claude, liên quan đến tác nhân bị công ty gắn với Nga, Trung Quốc và Iran, bên cạnh các nhóm vì động cơ tài chính. Các vụ việc trải rộng từ hoạt động mạng, gây ảnh hưởng, giám sát, lừa đảo đến lạm dụng liên quan sinh học, vũ khí thông thường và trích xuất năng lực mô hình. 716

Reuters đưa tin các hồ sơ Anthropic công bố có một hoạt động bị cho là liên quan Nga, nhắm vào quan chức Ukraine, cùng các cáo buộc về việc một số công ty AI Trung Quốc lạm dụng Claude. Đây là các nhận định và nghiên cứu tình huống do doanh nghiệp đưa ra; chúng không phải thước đo cho toàn bộ hoạt động đe dọa trên không gian mạng. 177

Ở mảng tội phạm mạng, Microsoft quy các chiến dịch lừa đảo xã hội xoay quanh passkey và đăng nhập một lần (SSO) nhắm vào tài khoản Microsoft 365 doanh nghiệp cho các tác nhân liên quan ShinyHunters, Helix và những nhóm tống tiền liên quan. Mô hình được báo cáo là do thám trước, sau đó giả danh bộ phận hỗ trợ CNTT để lấy quyền truy cập và đánh cắp dữ liệu đám mây. Đây là đánh cắp thông tin xác thực theo cách truyền thống nhưng được hưởng lợi từ khả năng nhắm mục tiêu và tạo mồi nhử ở quy mô lớn hơn; không phải bằng chứng AI đã tự thực hiện toàn bộ vụ xâm nhập. 3

Vòng lặp đáng ngại: tạo, thử, sửa rồi triển khai

Ý nghĩa vận hành của AI tác tử nằm ở vòng lặp phản hồi. Kẻ tấn công có thể yêu cầu mô hình chỉnh sửa hoặc xây lại mã sau khi công cụ bảo mật phát hiện nó; đồng thời có thể lợi dụng thông tin xác thực hoặc khóa API bị đánh cắp để có năng lực tính toán với chi phí thấp. Rủi ro lớn không nằm ở một câu lệnh độc hại riêng lẻ, mà ở chu trình tạo – kiểm thử – sửa đổi – triển khai được lặp lại ở tốc độ máy. 87

Cùng logic đó, hoạt động giả mạo thương hiệu có thể trở nên rẻ và linh hoạt hơn: trang hỗ trợ trông đáng tin, email phishing, hội thoại giả mạo, biến thể đa ngôn ngữ, hoặc nội dung hình ảnh và giọng nói có thể được tạo rồi làm mới nhanh. Điều này làm suy yếu các biện pháp chỉ dựa vào mẫu nội dung đã biết hay lỗi ngữ pháp dễ nhận ra. Microsoft đặc biệt ghi nhận việc AI được dùng để tạo và dịch mồi phishing. 10

“Chưng cất” mô hình: mục tiêu mới của an ninh mạng

Google gọi việc truy vấn có hệ thống Gemini nhằm rút ra năng lực độc quyền là tấn công trích xuất mô hình, hay “chưng cất” mô hình. Đây là vấn đề về sở hữu trí tuệ và bảo vệ năng lực mô hình, không đơn thuần là tội phạm mạng thông thường. 11

Các thông tin công khai mô tả những chiến dịch dùng lượng câu lệnh rất lớn. Cách diễn giải thận trọng là kẻ tấn công có thể cố tái tạo các hành vi hữu ích của mô hình tiên tiến bằng cách thăm dò qua API, trong khi nhà cung cấp tìm cách phát hiện truy vấn lạm dụng và bảo vệ năng lực suy luận cũng như các rào chắn an toàn của mình. 118

Vì sao cán cân chi phí thay đổi?

AI làm giảm chi phí biên cho việc soạn nội dung, bản địa hóa ngôn ngữ, nghiên cứu, hỗ trợ viết mã và lừa đảo theo kiểu thử–sửa liên tục. Nhờ đó, tội phạm mạng hoặc nhóm có nguồn lực hạn chế có thể có một phần năng lực trước đây thường gắn với các đội ngũ lớn hơn. Đổi lại, bên phòng thủ phải phân biệt nội dung độc hại cá nhân hóa, thay đổi thường xuyên với liên lạc hợp pháp — một công việc khó hơn khi khối lượng và biến thể đều tăng. 610

Điều này tạo ra bất đối xứng về tốc độ và quy mô, không có nghĩa mọi cuộc tấn công có AI đều sẽ thành công.

Không chỉ là phishing: bài toán AI có trách nhiệm

Các câu hỏi về quyền truy cập, năng lực mô hình và giám sát lạm dụng không dừng ở an ninh mạng. Báo cáo của Anthropic cũng đề cập các nỗ lực lạm dụng liên quan phát triển vũ khí sinh học và vũ khí thông thường. Vì vậy, thảo luận về AI có trách nhiệm bao gồm giám sát hành vi lạm dụng, kiểm soát tài khoản và API, giới hạn tốc độ truy vấn, phát hiện trích xuất mô hình, chia sẻ thông tin sự cố và các biện pháp bảo vệ nghiêm ngặt hơn cho những lĩnh vực có hệ quả cao — chứ không chỉ là lọc email phishing. 162

Lưu ý quan trọng: các ấn phẩm này ghi nhận những vụ việc mà các công ty đã phát hiện và ngăn chặn. Chúng cho thấy năng lực cùng xu hướng vận hành mới đang hình thành, nhưng tự chúng chưa đủ để kết luận các cuộc tấn công tự trị đã là hình thức chủ đạo của tội phạm mạng. 7