Usynlig for overvågningskameraer: Nye mønstre narrer AI'en

"Det er en genetisk algoritme, der avler adversarial tekstilmønstre, printet på almindeligt stof, som forårsager kaskaderende fejl i hele ansigtsgenkendelsespipelinen – person-detektion, ansigts-detektion og identitetsmatch – uden elektronik og uden noget, der ser usædvanligt ud for en person, der står ved siden af dig," sagde Swearingen i en Black Hat-preview .

Systemer besejret af NoRecognition

Swearingens projekt er blevet testet mod og hævder at besejre 11 forskellige AI-overvågningsmodeller, herunder:

• Flock – nummerpladelæsere og overvågningskameraer
• Axon – politiets bodycams og overvågningssystemer
• Clearview AI – ansigtsgenkendelse
• Forskellige andre modeller til person-detektion, køretøjs-detektion og ansigtsgenkendelse

Bemærkelsesværdigt har Swearingen udtalt, at hans system tester mod "de rigtige modeller. Ikke akademiske benchmarks. Det faktiske, der kører i Clearview AI, politiets bodycams, lufthavnssikkerhed" .

Den offentlige test på Def Con 34

På Def Con-cybersikkerhedskonferencen i Las Vegas fredag den 7. august 2026 gennemførte Swearingen den første offentlige test i den virkelige verden af NoRecognition-mønstre . Med hjælp fra bilmediet Donut Media blev en 2009 Toyota Yaris dækket med det computer-genererede mønster og kørt forbi et Flock-overvågningskamera .

Ifølge Swearingen undgik bilen Flock-systemets automatiske detektion – kameraet udløste ingen detektionsalarm . Dette markerede første gang, mønstrene blev valideret mod et fysisk kamera i et live-miljø i stedet for i digital simulation . Uafhængige journalister bemærkede dog, at demoen var en enkelt, ikke-blindet test, og at bredere peer-reviewet validering stadig afventer .

Fremkomsten af adversarial mode

En parallel bevægelse kaldet "adversarial clothing" eller "adversarial fashion" er opstået som en mainstream-trend sideløbende med Swearingens tekniske arbejde .

The Guardian rapporterede i juli 2026, at designere inkorporerer "adversarial mønstre" – omhyggeligt arrangerede former, farver og motiver – i beklædningsgenstande specifikt for at forvirre ansigtsgenkendelses-AI . Mærker som Cap_able, Urban Privacy og Vollebak producerer tøjlinjer, der hævder at udnytte svagheder i computer vision-modeller .

Berlin-baserede kunstner Simon Weckert debuterede en konceptkollektion kaldet "Digital Camouflage" – beklædningsgenstande trykt med generative adversarial mønstre designet til at forhindre AI-overvågningsdetektion fra enhver vinkel eller stoflag . Bevægelsen beskrives som "privatliv kunne blive den næste store modetrend", hvor bærere gør et synligt statement om vigtigheden af privatliv, mens de potentielt undgår automatiseret ansigtsgenkendelse .

Cap_able, en italiensk mode-startup, skaber strik med adversarial mønstre og konstruerer beklædningsgenstande, så de er reversible, så brugeren kan vælge, hvornår de vil blive detekteret af AI eller ej . Dens patenterede proces udvikler algoritmisk adversarial mønstre, hvilket skaber det, de kalder "AI-camouflage" .

Begrænsninger og implikationer af våbenkapløb

Teknologien er ikke en mirakelkur. Eksperter peger på flere vigtige forbehold:

• Smal effektivitet: Mønstrene gør ikke en person eller et køretøj usynligt for menneskelige seere eller for selve videooptagelsen – de forstyrrer kun automatiserede detektionsalgoritmer . Et menneske, der ser optagelserne, kan stadig se personen .
• Model-specifikke: Mønstrene er optimeret mod de specifikke arkitekturer i Swearingens testsuite. Overvågningsselskaber kan opdatere deres modeller til at genkende og ignorere mønstrene, hvilket skaber et klassisk adversarial våbenkapløb .
• Skrøbelighed i den fysiske verden: De anvendte mønstre blev printet på fladt stof under kontrollerede forhold. Faktorer i den virkelige verden som belysning, vinkel, afstand, stoflæg og vejr kan forringe effektiviteten – og Def Con-testen var en enkelt forbikørsel forbi ét kamera .
• Risiko for genoptræning: Som The Guardian bemærker, advarer eksperter om, at adversarial mønstre kun virker, indtil overvågningsmodellen genoptrænes med de adversarial eksempler, hvorefter beskyttelsen kan forsvinde .
• Juridisk og etisk gråzone: Mens Swearingen fremstiller teknologien som en privatlivs-fravælgelsesmekanisme, kan retshåndhævende myndigheder se det som et redskab til at undgå overvågning, hvilket potentielt kan føre til regulering eller juridiske udfordringer .
• Utilstrækkelig uafhængig verifikation: Uafhængige journalister bemærkede, at Def Con-demoen var en enkelt, ikke-blindet test, og at bredere peer-reviewet validering af mønstrenes effektivitet i den virkelige verden stadig afventer .

Hvad dette betyder for privatlivet

NoRecognition repræsenterer et af de mest grundige forsøg til dato på at skabe et praktisk, bærbart forsvar mod AI-overvågning. Med 31 millioner tests og en live-demonstration mod et Flock-kamera er projektet bevæget sig ud over det akademiske proof-of-concept. Men om adversarial mønstre kan overleve våbenkapløbet mod den hurtigt udviklende overvågnings-AI – og om den bredere adversarial fashion-bevægelse vil levere reel privatlivsbeskyttelse i stor skala – forbliver et åbent spørgsmål.

Som Swearingen selv formulerede det, er kernespørgsmålet: "Kan fysiske stoffer virkelig besejre state-of-the-art ansigtsgenkendelse under virkelige forhold?" Svaret er, for nu, at de kan – indtil AI'en indhenter dem.