Spöksquattning: Så utnyttjar hackare AI:s hallucinationer för att kapa domäner

Attackkedjan: Från AI-hallucination till domänkapning

Phantom squatting följer en enkel men farlig process i tre steg som utnyttjar hur stora språkmodeller (LLM:er) hanterar information de inte har .

Steg 1: Leta efter hallucinationer. Angripare ställer systematiska frågor till AI-modeller för att upptäcka "spökdomäner" som modellerna hallucinerar för specifika varumärken . LLM:er kan generera "perfekt strukturerade, mycket övertygande webbadresser" som pekar på domäner som aldrig har registrerats .

Steg 2: Registrera spökdomänen. När en hallucinerad domän har identifierats köper angriparen den oregistrerade domänen för några dollar, bygger upp skadlig infrastruktur och väntar .

Steg 3: Utnyttja förtroendet. Offret – en människa eller en autonom AI-agent – följer den AI-genererade länken och går rakt i fällan . När traditionella säkerhetsflöden väl flaggar domänen som skadlig är skadan ofta redan skedd .

Detta är ett betydande skifte från traditionell cyberkvattning (cybersquatting). Klassisk cybersquatting bygger på mänskliga stavfel eller domäner som liknar andras, som "netflix-payments[.]com" . Phantom squatting ersätter mänskliga fel med AI-hallucinationer, vilket gör modellens egen svaghet till attackvektorn .

Verkliga exempel och relaterade tekniker

Palo Alto Networks har inte offentliggjort specifika varumärken eller domäner som fångats upp i phantom squatting-kampanjer, men flera dokumenterade mönster ger konkret kontext .

Imitation av kundsupport. Phantom squatting kan användas för att skapa nätfiskelänkar som imiterar legitima varumärkes- eller supportadresser som genereras av ett AI-system . Attacken utnyttjar att användare litar mer på en länk när den verkar komma från en AI-assistent .

AI-tematiserad nätfiske och kvattning. Palo Alto Networks har rapporterat en boom i traditionella skadlig kod-tekniker som utnyttjar intresset för AI och ChatGPT . Mellan november 2022 och april 2023 observerade Unit 42 en ökning på 910 % i månatliga registreringar av domäner relaterade till ChatGPT, och upp till 118 dagliga upptäckter av ChatGPT-relaterade skadliga webbadresser . Angriparnas mål är att locka ChatGPT-användare till till synes relaterade webbplatser som är utformade för att infektera dem .

Relaterad teknik: "Slopsquatting." En parallell variant i leveranskedjan – slopsquatting – riktar in sig på AI-hallucinerade programpaketnamn istället för domännamn . Här identifierar angripare påhittade paketnamn som LLM:er ofta rekommenderar för kodningsuppgifter, registrerar dessa namn på offentliga plattformar som npm, PyPI eller RubyGems och bäddar in skadlig kod . När en utvecklare frågar en AI-assistent efter en lösning, rekommenderar assistenten självsäkert det påhittade paketet, och utvecklaren installerar det i tillit till AI:ns auktoritativa ton . Forskning över 16 modeller fann att cirka 19,7 % av de paket som AI-kodningsverktyg rekommenderade var helt påhittade – över 205 000 hallucinerade paketnamn .

Försvar som Palo Alto Networks rekommenderar

Palo Alto Networks beskriver flera försvarslager för att minska risken för phantom squatting:

1. Proaktiv domänövervakning. Organisationer bör övervaka misstänkta kvattningsdomäner. LLM-baserade system kan också användas defensivt: forskning på DomainLynx visade att ett sammansatt AI-system uppnådde 94,7 % noggrannhet på en datamängd med 1 649 kvattningsdomäner och upptäckte 34 359 kvattningsdomäner från 2,09 miljoner nya domäner i ett månadslångt verklighetstest .

2. Filtrering av nyligen registrerade domäner (NRD). Palo Alto Networks Advanced DNS Security innehåller en signatur för nyligen registrerade domäner (UTID 109020001) . Nyligen registrerade domäner är domäner som nyligen lagts till av en TLD-operatör eller som bytt ägare inom 32 dagar, och många används för skadlig verksamhet som att driva kommand- och kontrollservrar eller distribuera skadlig kod .

3. DNS-skydd på nätverksnivå. DNS-säkerhetskontroller kan inspektera eller blockera trafik till riskfyllda domäner, inklusive NRD som ofta missbrukas vid nätfiske och social manipulation . Advanced URL Filtering (AURL), som drivs av Precision AI och realtidsbaserade djupinlärningsdetektorer, kan identifiera och blockera helt nya nätfiskedomäner när de dyker upp .

4. Användarutbildning och verifiering av AI-utdata. Användare bör behandla AI-genererade webbadresser med försiktighet och verifiera kritiska utdata genom mänsklig granskning, betrodda databaser, API:er eller noggrant utvalda kunskapsbaser . Att korskontrollera modellsvar mot auktoritativa källor är avgörande för alla högriskapplikationer .

5. Skyddsräcken för AI-agenter. Autonoma agenter och AI-assisterade arbetsflöden bör validera genererade webbadresser, paketnamn och andra externa resurser mot betrodda källor innan de hämtar, installerar eller agerar på dem . Detta är särskilt viktigt för kodningsassistenter där slopsquatting-varianten utgör en direkt risk för utvecklingspipelines .

Slutsats

Phantom squatting är ett reellt och växande hot som beväpnar en känd AI-svaghet – hallucination – mot användare som litar på AI-genererad information . Attacken utnyttjar själva egenskapen som gör LLM:er användbara: deras förmåga att generera trovärdigt innehåll med självförtroende, även när den underliggande referensen inte finns. För att försvara sig behöver organisationer en lager-på-lager-strategi som kombinerar proaktiv domänövervakning, strikt DNS/NRD-filtrering, användarutbildning och skyddsräcken för AI-agenter som behandlar AI-genererade webbadresser som potentiellt opålitliga tills de oberoende verifierats .