Phantom Squatting: de nieuwe dreiging waarbij AI-hallucinaties leiden tot domeinkaping

De aanvalsketen: van AI-hallucinatie naar domeinkaping

Phantom squatting volgt een eenvoudig, maar gevaarlijk stappenplan dat misbruik maakt van de manier waarop grote taalmodellen (LLM's) omgaan met ontbrekende informatie .

Stap 1: Opsporen van hallucinaties. Aanvallers geven systematisch prompts aan AI-modellen om erachter te komen welke 'phantom'-domeinen de modellen vaak verzinnen voor specifieke merken . LLM's kunnen 'perfect gestructureerde, zeer overtuigende URL's' genereren die verwijzen naar domeinen die nog nooit zijn geregistreerd .

Stap 2: Registreren van het phantom-domein. Zodra een verzonnen domein is geïdentificeerd, koopt de aanvaller het ongeregistreerde domein voor een paar dollar, zet er kwaadaardige infrastructuur op en wacht af .

Stap 3: Vertrouwen van gebruikers misbruiken. Slachtoffers – zowel menselijke gebruikers als autonome AI-agenten – volgen de door AI gegenereerde link en lopen regelrecht in de val . Tegen de tijd dat een traditionele beveiligingsfeed het domein als kwaadaardig bestempelt, is de schade vaak al aangericht .

Dit is een wezenlijke verandering ten opzichte van traditioneel cybersquatten. Klassiek cybersquatten vertrouwt op menselijke typefouten of domeinen die lijken op bestaande, zoals 'netflix-payments[.]com' . Phantom squatting vervangt de menselijke fout door AI-hallucinatie en maakt van de eigen zwakte van het model de aanvalsvector .

Voorbeelden uit de praktijk en verwante technieken

Palo Alto Networks heeft niet concreet gemeld welke merknamen of domeinen zijn getroffen bij phantom squatting-campagnes, maar er zijn wel verschillende gedocumenteerde patronen die context geven .

Impersonatie van klantenservice. Phantom squatting kan worden gebruikt om phishinglinks te maken die lijken op legitieme merk- of support-URL's die door een AI-systeem zijn gegenereerd . De aanval maakt gebruik van het feit dat gebruikers een link sneller vertrouwen als deze afkomstig lijkt van een AI-assistent .

Phishing en squatting met AI-thema. Palo Alto Networks ziet een golf van traditionele malware- en phishingtechnieken die inspelen op de populariteit van AI en ChatGPT . Tussen november 2022 en april 2023 zag Unit 42 een toename van 910% in maandelijkse registraties van domeinen die aan ChatGPT waren gerelateerd, en tot 118 dagelijkse detecties van kwaadaardige URL's met ChatGPT . Het doel? ChatGPT-gebruikers naar schijnbaar gerelateerde sites lokken die hen moeten infecteren .

Verwante techniek: 'Slopsquatting'. Een parallelle variant, slopsquatting genaamd, richt zich op door AI gehallucineerde softwarepakketnamen in plaats van domeinnamen . Bij deze aanval identificeren aanvallers verzonnen pakketnamen die LLM's vaak aanbevelen voor codeertaken, registreren ze die namen op openbare repositories zoals npm, PyPI of RubyGems en stoppen er malware in . Wanneer een ontwikkelaar een AI-assistent om een oplossing vraagt, stelt de assistent vol vertrouwen het phantom-pakket voor – en installeert de ontwikkelaar het, vertrouwend op de overtuigende toon van de AI . Onderzoek naar 16 modellen wees uit dat ongeveer 19,7% van de door AI-codeertools aanbevolen pakketten volledig verzonnen was – meer dan 205.000 gehallucineerde pakketnamen .

Aanbevolen verdediging door Palo Alto Networks

Palo Alto Networks schetst verschillende verdedigingslagen om het risico op phantom squatting te beperken:

1. Proactief domeinmonitoring. Organisaties moeten verdachte squatting-domeinen in de gaten houden. LLM-systemen kunnen ook defensief worden ingezet: onderzoek naar DomainLynx toonde aan dat een samengesteld AI-systeem 94,7% nauwkeurigheid bereikte op een dataset van 1.649 squatting-domeinen en in een maand durende praktijktest 34.359 squatting-domeinen detecteerde uit 2,09 miljoen nieuwe domeinen .

2. Newly Registered Domain (NRD)-filtering. Advanced DNS Security van Palo Alto Networks bevat een handtekening voor nieuw geregistreerde domeinen (UTID 109020001) . Nieuw geregistreerde domeinen zijn domeinen die recentelijk zijn toegevoegd door een TLD-operator of die binnen de laatste 32 dagen van eigenaar zijn veranderd. Veel van deze domeinen worden gebruikt voor kwaadaardige activiteiten, zoals het aansturen van command-and-control-servers of het verspreiden van malware .

3. Beveiliging op DNS-niveau. DNS-beveiligingscontroles kunnen verkeer naar risicovolle domeinen inspecteren of blokkeren, waaronder NRD's die vaak worden misbruikt bij phishing en social engineering . Advanced URL Filtering (AURL), aangedreven door Precision AI en realtime, inline deep learning-detectoren, kan nog nooit eerder geziene phishing-domeinen identificeren en blokkeren zodra ze opduiken .

4. Gebruikerseducatie en verificatie van AI-output. Gebruikers moeten URL's die door AI zijn gegenereerd met voorzichtigheid behandelen en output met hoge impact verifiëren via menselijke controle, vertrouwde databases, API's of samengestelde kennisbanken . Het kruisrefereren van modelantwoorden met gezaghebbende bronnen is van cruciaal belang voor elk gebruik met hoge impact .

5. AI-agent guardrails. Autonome agenten en AI-gestuurde workflows moeten gegenereerde URL's, pakketnamen en andere externe bronnen valideren met vertrouwde bronnen voordat ze worden opgehaald, geïnstalleerd of gebruikt . Dit is vooral belangrijk voor codeerassistenten, waar de slopsquatting-variant een direct risico vormt voor ontwikkelingspijplijnen .

Conclusie

Phantom squatting is een opkomende, praktische dreiging die een bekende AI-zwakte – hallucinatie – inzet tegen gebruikers die AI-gegenereerde output vertrouwen . De aanval maakt misbruik van de eigenschap die LLM's juist nuttig maakt: het vermogen om met overtuiging plausibel klinkende inhoud te genereren, zelfs als de onderliggende referentie niet bestaat. Om zich hiertegen te verdedigen, hebben organisaties een gelaagde aanpak nodig: proactief domeinmonitoring, strikte DNS/NRD-filtering, gebruikerseducatie en AI-agent guardrails die ervoor zorgen dat AI-gegenereerde URL's als onbetrouwbaar worden beschouwd tot ze onafhankelijk zijn geverifieerd .