Vaihe 2: Aaveverkkotunnuksen rekisteröinti. Kun harha on tunnistettu, hyökkääjä ostaa rekisteröimättömän verkkotunnuksen muutamalla dollarilla, pystyttää haitallisen infrastruktuurin ja jää odottamaan .

Vaihe 3: Luottamuksen väärinkäyttö. Uhri – joko ihminen tai autonominen tekoälyagentti – seuraa tekoälyn luomaa linkkiä ja päätyy suoraan ansaan . Siihen mennessä, kun perinteinen tietoturvajärjestelmä huomaa verkkotunnuksen haitalliseksi, vahinko on usein jo tapahtunut .

Tämä on merkittävä muutos perinteiseen verkkotunnuskaappaukseen (cybersquatting) verrattuna. Perinteinen kaappaus perustuu ihmisten kirjoitusvirheisiin tai brändejä matkiviin verkkotunnuksiin, kuten "netflix-payments[.]com" . Aavekaappaus korvaa inhimillisen virheen tekoälyn harhalla ja kääntää mallin oman heikkouden hyökkäysvektoriksi .

Tosimaailman esimerkkejä ja liitännäistekniikoita

Palo Alto Networks ei ole julkisesti paljastanut tarkkoja brändejä tai verkkotunnuksia, joita aavekaappauskampanjoissa on käytetty, mutta dokumentoidut mallit antavat konkreettista kuvaa .

Asiakastuen esiintyminen. Aavekaappausta voidaan käyttää kalastelulinkkien luomiseen, jotka jäljittelevät tekoälyn tuottamia laillisia brändi- tai tukiosoitteita . Hyökkäys hyödyntää sitä, että käyttäjä luottaa linkkiin enemmän, jos se tulee tekoälyavustajalta .

Tekoälyteemainen kalastelu ja verkkotunnusten kaappaus. Palo Alto Networks on raportoinut perinteisten haittaohjelma- ja kalastelutekniikoiden räjähdysmäisestä kasvusta, joka hyödyntää kiinnostusta tekoälyyn ja ChatGPT:hen . Marraskuun 2022 ja huhtikuun 2023 välillä Unit 42 havaitsi 910 prosentin kasvun ChatGPT:hen liittyvien verkkotunnusten kuukausittaisissa rekisteröinneissä ja jopa 118 päivittäistä ChatGPT:hen liittyvää haitallista URL-tunnistusta . Hyökkääjien tavoitteena on houkutella ChatGPT:n käyttäjiä sivustoille, jotka näyttävät liittyvän palveluun, mutta ovat suunniteltu tartuttamaan käyttäjät .

Liitännäistekniikka: "Slopsquatting". Toimitusketjun variantti, nimeltään slopsquatting, kohdistuu tekoälyn hallusinoimiin ohjelmistopakettien nimiin verkkotunnusten sijaan . Tässä mallissa hyökkääjät tunnistavat keksittyjä pakettinimiä, joita kielimallit suosittelevat usein koodaustyöhön, rekisteröivät nämä nimet julkisille pakettivarastoille (kuten npm, PyPI tai RubyGems) ja upottavat niihin haittaohjelmia . Kun kehittäjä kysyy tekoälyavustajalta ratkaisua, avustaja suosittelee luottavaisena aavepakettia, ja kehittäjä asentaa sen luottaen tekoälyn auktoriteettiin . Tutkimuksessa, joka kattoi 16 mallia, havaittiin, että noin 19,7 prosenttia tekoälytyökalujen suosittelemista paketeista oli täysin keksittyjä – yli 205 000 hallusinoitua pakettinimeä .

Palo Alto Networksin suosittelemat suojautumiskeinot

Palo Alto Networks listaa useita suojakerroksia aavekaappauksen riskin vähentämiseksi:

1. Ennakoiva verkkotunnusten seuranta. Organisaatioiden tulisi seurata epäilyttäviä kaappausverkkotunnuksia. Kielimalleja voidaan käyttää myös puolustuksellisesti: DomainLynx-tutkimuksessa yhdistelmätekoälyjärjestelmä saavutti 94,7 prosentin tarkkuuden 1 649 kaappausverkkotunnuksen aineistossa ja havaitsi 34 359 kaappausverkkotunnusta 2,09 miljoonasta uudesta verkkotunnuksesta kuukauden mittaisessa reaalimaailman testissä .

2. Uusien verkkotunnusten (NRD) suodatus. Palo Alto Networksin Advanced DNS Security sisältää tunnisteen uusille verkkotunnuksille (UTID 109020001) . Uudet verkkotunnukset ovat juuri rekisteröityjä tai omistajaa vaihtaneita verkkotunnuksia, ja monet niistä liittyvät haitalliseen toimintaan, kuten komentopalvelimiin tai haittaohjelmien levittämiseen .

3. DNS-tason suojaus. DNS-tietoturva voi tarkastaa tai estää liikenteen riskialttiisiin verkkotunnuksiin, kuten kalastelussa yleisesti hyödynnettyihin uusiin verkkotunnuksiin . Advanced URL Filtering (AURL), joka perustuu Precision AI -tekoälyyn ja reaaliaikaisiin syväoppimistunnistimiin, pystyy tunnistamaan ja estämään ennen näkemättömiä kalasteluverkkotunnuksia niiden ilmaantuessa .

4. Käyttäjien koulutus ja tekoälyn tuotosten varmentaminen. Käyttäjien tulisi suhtautua tekoälyn tuottamiin URL-osoitteisiin varoen ja varmistaa kriittiset tuotokset ihmistarkistuksella, luotettavilla tietokannoilla, rajapinnoilla tai kuratoiduilla tietolähteillä . Mallien vastausten ristiintarkistus auktoritatiivisia lähteitä vastaan on kriittistä kaikissa tärkeissä käyttötapauksissa .

5. Tekoälyagenttien rajoitteet. Autonomisten agenttien ja tekoälyavusteisten työnkulkujen tulisi varmistaa tuotetut URL-osoitteet, pakettinimet ja muut ulkoiset resurssit luotettavista lähteistä ennen niiden hakemista, asentamista tai käyttöä . Tämä on erityisen tärkeää koodausavustajille, joissa slopsquatting-variantti muodostaa suoran riskin kehitysputkille .

Yhteenveto

Aavekaappaus on käytännönläheinen, nouseva uhka, joka aseistaa tunnetun tekoälyvirheen – hallusinaation – käyttäjiä vastaan, jotka luottavat tekoälyn tuotoksiin . Hyökkäys hyödyntää juuri sitä ominaisuutta, joka tekee kielimalleista hyödyllisiä: niiden kykyä tuottaa uskottavan kuuloista sisältöä itsevarmasti, vaikka taustalla olevaa viitettä ei ole olemassa. Suojautuminen edellyttää kerroksellista lähestymistapaa, jossa yhdistyvät ennakoiva verkkotunnusten seuranta, tiukka DNS/NRD-suodatus, käyttäjien koulutus ja tekoälyagenttien rajoitteet, jotka kohtelevat tekoälyn tuottamia URL-osoitteita epäluotettavina, kunnes ne on itsenäisesti varmennettu .

Vaihe 2: Aaveverkkotunnuksen rekisteröinti. Kun harha on tunnistettu, hyökkääjä ostaa rekisteröimättömän verkkotunnuksen muutamalla dollarilla, pystyttää haitallisen infrastruktuurin ja jää odottamaan .

Vaihe 3: Luottamuksen väärinkäyttö. Uhri – joko ihminen tai autonominen tekoälyagentti – seuraa tekoälyn luomaa linkkiä ja päätyy suoraan ansaan . Siihen mennessä, kun perinteinen tietoturvajärjestelmä huomaa verkkotunnuksen haitalliseksi, vahinko on usein jo tapahtunut .

Tämä on merkittävä muutos perinteiseen verkkotunnuskaappaukseen (cybersquatting) verrattuna. Perinteinen kaappaus perustuu ihmisten kirjoitusvirheisiin tai brändejä matkiviin verkkotunnuksiin, kuten "netflix-payments[.]com" . Aavekaappaus korvaa inhimillisen virheen tekoälyn harhalla ja kääntää mallin oman heikkouden hyökkäysvektoriksi .

Tosimaailman esimerkkejä ja liitännäistekniikoita

Palo Alto Networks ei ole julkisesti paljastanut tarkkoja brändejä tai verkkotunnuksia, joita aavekaappauskampanjoissa on käytetty, mutta dokumentoidut mallit antavat konkreettista kuvaa .

Asiakastuen esiintyminen. Aavekaappausta voidaan käyttää kalastelulinkkien luomiseen, jotka jäljittelevät tekoälyn tuottamia laillisia brändi- tai tukiosoitteita . Hyökkäys hyödyntää sitä, että käyttäjä luottaa linkkiin enemmän, jos se tulee tekoälyavustajalta .

Tekoälyteemainen kalastelu ja verkkotunnusten kaappaus. Palo Alto Networks on raportoinut perinteisten haittaohjelma- ja kalastelutekniikoiden räjähdysmäisestä kasvusta, joka hyödyntää kiinnostusta tekoälyyn ja ChatGPT:hen . Marraskuun 2022 ja huhtikuun 2023 välillä Unit 42 havaitsi 910 prosentin kasvun ChatGPT:hen liittyvien verkkotunnusten kuukausittaisissa rekisteröinneissä ja jopa 118 päivittäistä ChatGPT:hen liittyvää haitallista URL-tunnistusta . Hyökkääjien tavoitteena on houkutella ChatGPT:n käyttäjiä sivustoille, jotka näyttävät liittyvän palveluun, mutta ovat suunniteltu tartuttamaan käyttäjät .

Liitännäistekniikka: "Slopsquatting". Toimitusketjun variantti, nimeltään slopsquatting, kohdistuu tekoälyn hallusinoimiin ohjelmistopakettien nimiin verkkotunnusten sijaan . Tässä mallissa hyökkääjät tunnistavat keksittyjä pakettinimiä, joita kielimallit suosittelevat usein koodaustyöhön, rekisteröivät nämä nimet julkisille pakettivarastoille (kuten npm, PyPI tai RubyGems) ja upottavat niihin haittaohjelmia . Kun kehittäjä kysyy tekoälyavustajalta ratkaisua, avustaja suosittelee luottavaisena aavepakettia, ja kehittäjä asentaa sen luottaen tekoälyn auktoriteettiin . Tutkimuksessa, joka kattoi 16 mallia, havaittiin, että noin 19,7 prosenttia tekoälytyökalujen suosittelemista paketeista oli täysin keksittyjä – yli 205 000 hallusinoitua pakettinimeä .

Palo Alto Networksin suosittelemat suojautumiskeinot

Palo Alto Networks listaa useita suojakerroksia aavekaappauksen riskin vähentämiseksi:

1. Ennakoiva verkkotunnusten seuranta. Organisaatioiden tulisi seurata epäilyttäviä kaappausverkkotunnuksia. Kielimalleja voidaan käyttää myös puolustuksellisesti: DomainLynx-tutkimuksessa yhdistelmätekoälyjärjestelmä saavutti 94,7 prosentin tarkkuuden 1 649 kaappausverkkotunnuksen aineistossa ja havaitsi 34 359 kaappausverkkotunnusta 2,09 miljoonasta uudesta verkkotunnuksesta kuukauden mittaisessa reaalimaailman testissä .

2. Uusien verkkotunnusten (NRD) suodatus. Palo Alto Networksin Advanced DNS Security sisältää tunnisteen uusille verkkotunnuksille (UTID 109020001) . Uudet verkkotunnukset ovat juuri rekisteröityjä tai omistajaa vaihtaneita verkkotunnuksia, ja monet niistä liittyvät haitalliseen toimintaan, kuten komentopalvelimiin tai haittaohjelmien levittämiseen .

3. DNS-tason suojaus. DNS-tietoturva voi tarkastaa tai estää liikenteen riskialttiisiin verkkotunnuksiin, kuten kalastelussa yleisesti hyödynnettyihin uusiin verkkotunnuksiin . Advanced URL Filtering (AURL), joka perustuu Precision AI -tekoälyyn ja reaaliaikaisiin syväoppimistunnistimiin, pystyy tunnistamaan ja estämään ennen näkemättömiä kalasteluverkkotunnuksia niiden ilmaantuessa .

4. Käyttäjien koulutus ja tekoälyn tuotosten varmentaminen. Käyttäjien tulisi suhtautua tekoälyn tuottamiin URL-osoitteisiin varoen ja varmistaa kriittiset tuotokset ihmistarkistuksella, luotettavilla tietokannoilla, rajapinnoilla tai kuratoiduilla tietolähteillä . Mallien vastausten ristiintarkistus auktoritatiivisia lähteitä vastaan on kriittistä kaikissa tärkeissä käyttötapauksissa .

5. Tekoälyagenttien rajoitteet. Autonomisten agenttien ja tekoälyavusteisten työnkulkujen tulisi varmistaa tuotetut URL-osoitteet, pakettinimet ja muut ulkoiset resurssit luotettavista lähteistä ennen niiden hakemista, asentamista tai käyttöä . Tämä on erityisen tärkeää koodausavustajille, joissa slopsquatting-variantti muodostaa suoran riskin kehitysputkille .

Yhteenveto

Aavekaappaus on käytännönläheinen, nouseva uhka, joka aseistaa tunnetun tekoälyvirheen – hallusinaation – käyttäjiä vastaan, jotka luottavat tekoälyn tuotoksiin . Hyökkäys hyödyntää juuri sitä ominaisuutta, joka tekee kielimalleista hyödyllisiä: niiden kykyä tuottaa uskottavan kuuloista sisältöä itsevarmasti, vaikka taustalla olevaa viitettä ei ole olemassa. Suojautuminen edellyttää kerroksellista lähestymistapaa, jossa yhdistyvät ennakoiva verkkotunnusten seuranta, tiukka DNS/NRD-suodatus, käyttäjien koulutus ja tekoälyagenttien rajoitteet, jotka kohtelevat tekoälyn tuottamia URL-osoitteita epäluotettavina, kunnes ne on itsenäisesti varmennettu .