Phantom Squatting: Saat Halusinasi AI Disulap Menjadi Senjata Pembajak Domain

Langkah 2: Mendaftarkan Domain Hantu. Setelah domain hasil halusinasi teridentifikasi, penyerang membeli domain yang belum terdaftar itu dengan harga murah, menyiapkan infrastruktur berbahaya di baliknya, dan menunggu .

Langkah 3: Mengeksploitasi Kepercayaan Pengguna. Korban — baik pengguna manusia maupun agen AI otonom — mengikuti tautan yang dihasilkan AI dan langsung terperangkap . Saat sistem keamanan tradisional akhirnya mendeteksi domain berbahaya tersebut, dampak buruk biasanya sudah terjadi .

Ini adalah perubahan signifikan dari cybersquatting tradisional. Cybersquatting klasik biasanya bergantung pada kesalahan ketik manusia atau domain yang mirip, seperti "netflix-payments[.]com" . Phantom squatting menggantikan kesalahan manusia dengan halusinasi AI, menjadikan kelemahan model itu sendiri sebagai vektor serangan .

Contoh Nyata dan Teknik Terkait

Palo Alto Networks tidak menyebutkan nama merek atau domain spesifik yang tertangkap dalam kampanye phantom squatting secara publik, namun beberapa pola yang terdokumentasi memberikan gambaran yang jelas .

Peniruan Layanan Pelanggan. Phantom squatting bisa digunakan untuk membuat tautan phishing yang menyamar sebagai URL dukungan pelanggan sah yang dihasilkan oleh sistem AI . Serangan ini mengeksploitasi fakta bahwa pengguna cenderung lebih percaya pada tautan yang muncul dari asisten AI .

Phishing Bertema AI. Palo Alto Networks melaporkan ledakan teknik malware dan phishing tradisional yang memanfaatkan minat publik terhadap AI dan ChatGPT . Antara November 2022 dan April 2023, Unit 42 mengamati peningkatan 910% dalam pendaftaran domain bulanan yang terkait dengan ChatGPT, dan hingga 118 deteksi harian URL berbahaya terkait ChatGPT . Tujuan penyerang adalah memikat pengguna ChatGPT ke situs tiruan yang dirancang untuk menginfeksi perangkat mereka .

Teknik Terkait: "Slopsquatting". Varian rantai pasok ini menyasar nama paket perangkat lunak hasil halusinasi AI, bukan domain . Penyerang mengidentifikasi nama paket palsu yang sering direkomendasikan oleh LLM untuk tugas coding, lalu mendaftarkan nama tersebut di repositori publik seperti npm, PyPI, atau RubyGems, dan menyematkan malware di dalamnya . Saat seorang pengembang meminta solusi pada asisten AI, asisten tersebut dengan percaya diri menyarankan paket hantu itu, dan pengembang pun memasangnya karena percaya pada nada otoritatif AI . Penelitian terhadap 16 model menemukan bahwa sekitar 19,7% paket yang direkomendasikan oleh alat coding AI sepenuhnya palsu — lebih dari 205.000 nama paket hasil halusinasi .

Pertahanan yang Direkomendasikan Palo Alto Networks

Palo Alto Networks menjabarkan beberapa lapisan pertahanan untuk mengurangi risiko phantom squatting:

1. Pemantauan Domain Proaktif. Organisasi harus memantau domain-domain mencurigakan. Sistem berbasis LLM juga bisa digunakan untuk bertahan: penelitian tentang DomainLynx menunjukkan bahwa sistem AI majemuk mencapai akurasi 94,7% pada kumpulan data 1.649 domain squatting, mendeteksi 34.359 domain squatting dari 2,09 juta domain baru dalam pengujian dunia nyata selama sebulan .

2. Penyaringan Domain Baru Terdaftar (NRD). Advanced DNS Security dari Palo Alto Networks mencakup fitur deteksi untuk Newly Registered Domains (UTID 109020001) . Domain yang baru didaftarkan adalah domain yang baru ditambahkan oleh operator TLD atau yang berubah kepemilikan dalam 32 hari terakhir, dan banyak di antaranya disalahgunakan untuk aktivitas berbahaya seperti menjalankan server command-and-control atau menyebarkan malware .

3. Perlindungan Lapisan DNS. Kontrol keamanan DNS dapat memeriksa atau memblokir lalu lintas ke domain berisiko, termasuk NRD yang sering disalahgunakan dalam phishing dan rekayasa sosial . Advanced URL Filtering (AURL), yang didukung oleh Precision AI dan detektor deep learning real-time, dapat mengidentifikasi dan memblokir domain phishing yang belum pernah terlihat sebelumnya saat domain tersebut muncul .

4. Edukasi Pengguna dan Verifikasi Output AI. Pengguna harus berhati-hati terhadap URL yang dihasilkan AI dan memverifikasi output berisiko tinggi melalui tinjauan manusia, basis data tepercaya, API, atau basis pengetahuan yang dikurasi . Memeriksa silang respons model terhadap sumber otoritatif sangat penting untuk kasus penggunaan berisiko tinggi .

5. Aturan Keamanan (Guardrails) untuk Agen AI. Agen otonom dan alur kerja berbasis AI harus memvalidasi URL, nama paket, dan sumber daya eksternal lainnya yang dihasilkan terhadap sumber tepercaya sebelum mengambil, memasang, atau menindaklanjutinya . Ini sangat penting untuk asisten coding, di mana varian slopsquatting menjadi ancaman langsung bagi rantai pasok pengembangan perangkat lunak .

Intinya

Phantom squatting adalah ancaman baru yang praktis dan mempersenjatai kelemahan AI yang sudah diketahui — halusinasi — untuk melawan pengguna yang mempercayai hasil keluaran AI . Serangan ini mengeksploitasi fitur yang justru membuat LLM berguna: kemampuannya untuk menghasilkan konten yang terdengar masuk akal dengan penuh percaya diri, bahkan ketika referensi yang mendasarinya tidak ada. Untuk bertahan, organisasi memerlukan pendekatan berlapis yang menggabungkan pemantauan domain proaktif, penyaringan DNS/NRD yang ketat, edukasi pengguna, dan aturan untuk agen AI yang memperlakukan URL hasil AI sebagai tidak tepercaya sampai terverifikasi secara independen .