옷과 자동차에 프린트만 하면 AI 감시망을 피할 수 있다? '노리코그니션' 프로젝트

특히 스워링겐은 자신의 시스템이 "학술적 벤치마크가 아닌 실제 모델들——클리어뷰 AI, 경찰 바디캠, 공항 보안에서 실제로 돌아가는 것들"을 대상으로 테스트한다고 밝혔다.

데프콘 34 공개 테스트

2026년 8월 7일 금요일, 라스베이거스에서 열린 데프콘(Def Con) 사이버보안 컨퍼런스에서 스워링겐은 노리코그니션 패턴의 첫 번째 공개 실제 환경 테스트를 진행했다. 자동차 미디어 '도넛 미디어(Donut Media)'의 도움을 받아 2009년형 도요타 야리스(Toyota Yaris) 차량 전체를 컴퓨터 생성 패턴으로 덮은 뒤 플록(Flock) 감시 카메라 앞을 주행시켰다.

스워링겐에 따르면 차량은 플록 시스템의 자동 탐지를 회피했다——카메라는 탐지 알림을 작동시키지 않았다. 이는 디지털 시뮬레이션이 아닌 실제 물리적 카메라 환경에서 패턴의 유효성이 검증된 첫 번째 사례였다. 다만, 독립 기자들은 이 데모가 단일 비맹검(非盲檢) 테스트였으며, 더 넓은 범위의 동료 검증은 여전히 진행 중이라고 지적했다.

적대적 패션의 부상

스워링겐의 기술 작업과 병행하여 '적대적 의류(adversarial clothing)' 또는 '적대적 패션(adversarial fashion)' 이라는 운동이 주류 트렌드로 떠오르고 있다.

가디언(The Guardian) 지는 2026년 7월, 디자이너들이 얼굴 인식 AI를 혼란시키기 위해 '적대적 패턴'——정교하게 배열된 모양, 색상, 모티프——을 의류에 통합하고 있다고 보도했다. 카페블(Cap_able), 어반 프라이버시(Urban Privacy), 볼레박(Vollebak) 같은 브랜드가 컴퓨터 비전 모델의 취약점을 이용한다는 의류 라인을 생산하고 있다.

베를린 기반의 아티스트 시몬 베케르트(Simon Weckert) 는 '디지털 카무플라주(Digital Camouflage)' 라는 컨셉 컬렉션을 선보였다——어떤 각도나 천 주름에서도 AI 감시 탐지를 방지하도록 설계된 생성적 적대 패턴이 프린트된 의류이다. 이 운동은 '프라이버시가 다음 큰 패션 트렌드가 될 수 있다'고 묘사되며, 착용자는 잠재적으로 자동화된 얼굴 인식을 회피하면서 프라이버시의 중요성에 대한 가시적인 메시지를 전달한다.

이탈리아 패션 스타트업 카페블(Cap_able)은 적대적 패턴이 있는 니트웨어를 만들고, 의류를 뒤집어 입을 수 있도록 제작하여 사용자가 AI에 탐지되기를 원할지 여부를 선택할 수 있게 한다. 이 회사의 특허받은 프로세스는 알고리즘으로 적대적 패턴을 개발하여 소위 'AI-카무플라주'를 만들어낸다.

한계와 군비 경쟁의 의미

이 기술은 만능 해결책이 아니다. 전문가들은 몇 가지 중요한 주의점을 지적한다:

• 좁은 범위의 효과: 이 패턴은 사람이나 차량을 인간의 눈이나 녹화 자체에서 숨기지 않는다——오직 자동화된 탐지 알고리즘만 교란할 뿐이다. 영상을 보는 인간은 여전히 그 사람을 볼 수 있다.
• 모델 특이성: 패턴은 스워링겐 테스트 스위트의 특정 아키텍처에 최적화되어 있다. 감시 업체는 자체 모델을 업데이트하여 이 패턴을 인식하고 무시할 수 있으며, 이는 전형적인 적대적 군비 경쟁을 초래한다.
• 물리적 세계에서의 취약성: 배치된 패턴은 통제된 조건에서 평평한 천에 프린트되었다. 조명, 각도, 거리, 천의 주름, 날씨와 같은 실제 요인은 효과를 떨어뜨릴 수 있으며, 데프콘 테스트는 단일 카메라에 대한 단 한 번의 주행 테스트였다.
• 재학습 위험: 가디언이 지적했듯이, 전문가들은 적대적 패턴이 감시 모델이 해당 적대적 예시로 재학습될 때까지만 효과가 있으며, 그 후에는 보호 기능이 사라질 수 있다고 경고한다.
• 법적·윤리적 회색 지대: 스워링겐은 이 기술을 프라이버시 옵트아웃 메커니즘으로 설명하지만, 법 집행 기관은 이를 회피 도구로 간주하여 규제나 법적 도전으로 이어질 수 있다.
• 독립적 검증 부족: 독립 기자들은 데프콘 데모가 단일 비맹검 테스트였으며, 실제 환경에서의 패턴 효과에 대한 더 넓은 범위의 동료 검증이 여전히 진행 중이라고 지적했다.

프라이버시를 위한 의미

노리코그니션은 AI 감시에 대한 실용적이고 착용 가능한 방어책을 만들기 위한 가장 엄격한 시도 중 하나이다. 3,100만 회의 테스트와 플록 카메라에 대한 실시간 시연을 통해 이 프로젝트는 학술적 개념 증명 단계를 넘어섰다. 그러나 적대적 패턴이 빠르게 진화하는 감시 AI와의 군비 경쟁에서 살아남을 수 있을지, 그리고 더 넓은 적대적 패션 운동이 대규모로 실제 프라이버시 보호를 제공할 수 있을지는 여전히 열린 질문이다.

스워링겐 자신이 표현했듯이, 핵심 질문은 이것이다: "물리적 직물이 실제 조건에서 최첨단 얼굴 인식을 정말로 무력화할 수 있을까?" 현재의 답변은, AI가 따라잡을 때까지는 그렇다는 것이다.