Serangan 'Phantom Squatting': Ancaman Baru Apabila AI Khayal Cipta URL Palsu

Rantaian Serangan: Daripada Halusinasi AI kepada Perampasan Domain

'Phantom squatting' mengikuti proses tiga langkah yang mudah tetapi berbahaya, mengeksploitasi cara model bahasa besar (LLM) mengendalikan maklumat yang hilang .

Langkah 1: Mencari halusinasi. Penyerang secara sistematik mencabar model AI untuk menemui domain 'hantu' yang sering dikhayalkan oleh model tersebut untuk jenama tertentu . LLM boleh menjana "URL yang tersusun dengan sempurna dan sangat meyakinkan" yang merujuk kepada domain yang tidak pernah didaftarkan sebelum ini .

Langkah 2: Mendaftar domain hantu. Sebaik sahaja domain khayalan dikenal pasti, penyerang membeli domain yang belum didaftarkan itu dengan harga beberapa dolar, menyediakan infrastruktur berniat jahat, dan menunggu .

Langkah 3: Mengeksploitasi kepercayaan pengguna. Mangsa—sama ada pengguna manusia atau ejen AI autonomi—mengikut pautan yang dihasilkan AI dan terus terjerumus ke dalam perangkap . Pada masa suapan keselamatan tradisional menandakan domain itu sebagai berniat jahat, kerosakan sering kali sudah berlaku .

Ini adalah perubahan ketara daripada 'cybersquatting' tradisional. 'Cybersquatting' klasik bergantung pada kesilapan menaip manusia atau domain yang kelihatan serupa seperti 'netflix-payments[.]com' . 'Phantom squatting' menggantikan kesilapan manusia dengan halusinasi AI, menjadikan kelemahan model itu sendiri sebagai vektor serangan .

Contoh Dunia Sebenar dan Teknik Berkaitan

Palo Alto Networks tidak mendedahkan secara terbuka nama jenama atau domain spesifik yang terperangkap dalam kempen 'phantom squatting', tetapi beberapa corak yang didokumenkan memberikan konteks yang jelas .

Penyamaran sokongan pelanggan. 'Phantom squatting' boleh digunakan untuk mencipta pautan pancingan data yang menyamar sebagai URL sokongan jenama sah yang dihasilkan oleh sistem AI . Serangan mengeksploitasi fakta bahawa pengguna mungkin lebih mempercayai pautan yang kelihatan datang daripada pembantu AI .

Pancingan data bertemakan AI. Palo Alto Networks telah melaporkan peningkatan mendadak dalam teknik perisian hasad dan pancingan data tradisional yang mengambil kesempatan daripada minat terhadap AI dan ChatGPT . Antara November 2022 dan April 2023, Unit 42 memerhatikan peningkatan 910% dalam pendaftaran bulanan untuk domain berkaitan ChatGPT, dan sehingga 118 pengesanan harian URL hasad berkaitan ChatGPT . Matlamat penyerang adalah untuk memikat pengguna ChatGPT ke laman web yang kelihatan berkaitan tetapi direka untuk menjangkiti mereka .

Teknik berkaitan: 'Slopsquatting.' Varian rantaian bekalan yang selari—dipanggil 'slopsquatting'—menyasarkan nama pakej perisian yang dikhayalkan AI dan bukannya nama domain . Dalam model ini, penyerang mengenal pasti nama pakej rekaan yang sering disyorkan oleh LLM untuk tugas pengekodan, mendaftar nama tersebut di repositori awam seperti npm, PyPI, atau RubyGems, dan menanam perisian hasad . Apabila pemaju meminta penyelesaian daripada pembantu AI, pembantu itu dengan yakin mencadangkan pakej hantu itu, dan pemaju memasangnya, mempercayai nada berwibawa AI . Penyelidikan merentasi 16 model mendapati bahawa kira-kira 19.7% pakej yang disyorkan oleh alat pengekodan AI adalah rekaan sepenuhnya—lebih 205,000 nama pakej khayalan .

Pertahanan yang Disyorkan oleh Palo Alto Networks

Palo Alto Networks menggariskan beberapa lapisan pertahanan untuk mengurangkan risiko 'phantom squatting':

1. Pemantauan domain proaktif. Organisasi perlu memantau domain 'squatting' yang mencurigakan. Sistem berasaskan LLM juga boleh digunakan secara defensif: penyelidikan ke atas DomainLynx menunjukkan bahawa sistem AI kompaun mencapai ketepatan 94.7% pada set data 1,649 domain 'squatting', mengesan 34,359 domain 'squatting' daripada 2.09 juta domain baharu dalam ujian dunia nyata selama sebulan .

2. Penapisan Domain Baru Didaftar (NRD). Advanced DNS Security Palo Alto Networks termasuk tandatangan untuk Domain Baru Didaftar (UTID 109020001) . Domain baru didaftar ialah domain yang baru ditambahkan oleh operator TLD atau yang bertukar pemilikan dalam tempoh 32 hari lepas, dan kebanyakannya digunakan untuk memudahkan aktiviti hasad seperti mengendalikan pelayan arahan-dan-kawalan atau mengedarkan perisian hasad .

3. Perlindungan lapisan DNS. Kawalan keselamatan DNS boleh memeriksa atau menyekat trafik ke domain berisiko, termasuk NRD yang sering disalahgunakan dalam pancingan data dan kejuruteraan sosial . Advanced URL Filtering (AURL), dikuasakan oleh Precision AI dan pengesan pembelajaran mendalam sebaris masa nyata, boleh mengenal pasti dan menyekat domain pancingan data yang tidak pernah dilihat sebelum ini semasa ia muncul .

4. Pendidikan pengguna dan pengesahan output AI. Pengguna perlu berhati-hati dengan URL yang dihasilkan AI dan mengesahkan output berisiko tinggi melalui semakan manusia, pangkalan data yang dipercayai, API, atau pangkalan pengetahuan terurus . Rujuk silang respons model terhadap sumber berwibawa adalah penting untuk sebarang kes penggunaan berisiko tinggi .

5. 'Pagar keselamatan' ejen AI. Ejen autonomi dan aliran kerja berbantukan AI harus mengesahkan URL yang dihasilkan, nama pakej, dan sumber luaran lain terhadap sumber yang dipercayai sebelum mengambil, memasang, atau bertindak ke atasnya . Ini amat penting untuk pembantu pengekodan, di mana varian 'slopsquatting' menimbulkan risiko langsung kepada saluran paip pembangunan .

Kesimpulan

'Phantom squatting' adalah ancaman baru yang praktikal yang menggunakan kelemahan AI yang diketahui—halusinasi—terhadap pengguna yang mempercayai output yang dihasilkan AI . Serangan mengeksploitasi ciri yang menjadikan LLM berguna: keupayaan mereka untuk menghasilkan kandungan yang munasabah dengan yakin, walaupun rujukan asas tidak wujud. Untuk mempertahankan diri, organisasi memerlukan pendekatan berlapis yang menggabungkan pemantauan domain proaktif, penapisan DNS/NRD yang ketat, pendidikan pengguna, dan 'pagar keselamatan' ejen AI yang menganggap URL yang dihasilkan AI sebagai tidak dipercayai sehingga disahkan secara bebas .