보안 연구원 빌 스워링겐이 개발한 '노리코그니션'은 강화 학습(유전 알고리즘)을 이용해 AI 감시 카메라의 사람·얼굴·차량 감지를 무력화하는 컴퓨터 생성 패턴을 만듭니다. 2026년 8월 7일 라스베이거스 데프콘 34에서 2009년형 도요타 야리스에 이 패턴을 프린트해 플록(Flock) 감시 카메라 앞을 주행, 시스템이 차량을 자동 감지하지 못하는 데 성공했습니다.
보안 연구원 빌 스워링겐이 개발한 '노리코그니션'은 강화 학습(유전 알고리즘)을 이용해 AI 감시 카메라의 사람·얼굴·차량 감지를 무력화하는 컴퓨터 생성 패턴을 만듭니다.
2026년 8월 7일 라스베이거스 데프콘 34에서 2009년형 도요타 야리스에 이 패턴을 프린트해 플록(Flock) 감시 카메라 앞을 주행, 시스템이 차량을 자동 감지하지 못하는 데 성공했습니다.
가디언지가 2026년 7월 보도한 '적대적 의류(Adversarial Clothing)' 운동과 맞물려, 카페블, 어반 프라이버시, 볼레박 등 브랜드가 AI 감시를 혼란시키는 패션을 상용화하고 있습니다.
전문가들은 이 패턴이 특정 AI 모델에 최적화되어 있어, 감시 업체가 모델을 재학습시키면 무력화될 수 있으며, 실제 환경 조건(조명·각도·주름)에서 효과가 떨어질 수 있다고 경고합니다.
What algorithm and method did security researcher Bill Swearingen develop to create computer-printed patterns that hide people, faces, and vAI-generated conceptual image of adversarial camouflage pattern design intended to confuse computer vision systems.
AI 프롬프트
Create a landscape editorial hero image for this Studio Global article: What algorithm and method did security researcher Bill Swearingen develop to create computer-printed patterns that hide people, faces, and v. Article summary: Security researcher Bill Swearingen developed a reinforcement learning system called **noRecognition** that generates adversarial, computer-printed patterns capable of hiding people, faces, and vehicles from AI-powered s. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fa
openai.com
미국 보안 연구원 빌 스워링겐(Bill Swearingen)이 개발한 '노리코그니션(NoRecognition)' 프로젝트는 사람·얼굴·차량을 AI 감시 카메라로부터 숨겨주는 컴퓨터 생성 패턴을 만들어냈다. 3,100만 회에 달하는 테스트를 거친 이 패턴은 이제 실험실을 넘어 실제 거리로 나오고 있다.
노리코그니션 작동 원리
스워링겐의 핵심 방법은 **자기 학습형 퍼저(self-learning fuzzer)**로, 적대적 패턴을 생성해 오픈소스 객체 탐지 알고리즘에 대항해 테스트하는 방식이다. 여전히 탐지를 유발하는 패턴은 수정된 후 다시 테스트되는 반복 루프를 거친다. 약 3,100만 회의 테스트 반복 끝에, 시스템은 스워링겐의 테스트 스위트에 포함된 11개 AI 감시 모델을 모두 무력화하는 패턴 변종을 찾아냈다.
Studio Global AI
연구를 계속하세요
이 페이지에는 Studio Global 내에서 계속할 수 있는 소스 기반 답변이 포함되어 있습니다.
"옷과 자동차에 프린트만 하면 AI 감시망을 피할 수 있다? '노리코그니션' 프로젝트"에 대한 짧은 대답은 무엇입니까?
보안 연구원 빌 스워링겐이 개발한 '노리코그니션'은 강화 학습(유전 알고리즘)을 이용해 AI 감시 카메라의 사람·얼굴·차량 감지를 무력화하는 컴퓨터 생성 패턴을 만듭니다.
먼저 검증할 핵심 포인트는 무엇인가요?
보안 연구원 빌 스워링겐이 개발한 '노리코그니션'은 강화 학습(유전 알고리즘)을 이용해 AI 감시 카메라의 사람·얼굴·차량 감지를 무력화하는 컴퓨터 생성 패턴을 만듭니다. 2026년 8월 7일 라스베이거스 데프콘 34에서 2009년형 도요타 야리스에 이 패턴을 프린트해 플록(Flock) 감시 카메라 앞을 주행, 시스템이 차량을 자동 감지하지 못하는 데 성공했습니다.
실무에서는 다음으로 무엇을 해야 합니까?
가디언지가 2026년 7월 보도한 '적대적 의류(Adversarial Clothing)' 운동과 맞물려, 카페블, 어반 프라이버시, 볼레박 등 브랜드가 AI 감시를 혼란시키는 패션을 상용화하고 있습니다.
보안 연구원 빌 스워링겐이 개발한 '노리코그니션'은 강화 학습(유전 알고리즘)을 이용해 AI 감시 카메라의 사람·얼굴·차량 감지를 무력화하는 컴퓨터 생성 패턴을 만듭니다. 2026년 8월 7일 라스베이거스 데프콘 34에서 2009년형 도요타 야리스에 이 패턴을 프린트해 플록(Flock) 감시 카메라 앞을 주행, 시스템이 차량을 자동 감지하지 못하는 데 성공했습니다.
보안 연구원 빌 스워링겐이 개발한 '노리코그니션'은 강화 학습(유전 알고리즘)을 이용해 AI 감시 카메라의 사람·얼굴·차량 감지를 무력화하는 컴퓨터 생성 패턴을 만듭니다.
2026년 8월 7일 라스베이거스 데프콘 34에서 2009년형 도요타 야리스에 이 패턴을 프린트해 플록(Flock) 감시 카메라 앞을 주행, 시스템이 차량을 자동 감지하지 못하는 데 성공했습니다.
가디언지가 2026년 7월 보도한 '적대적 의류(Adversarial Clothing)' 운동과 맞물려, 카페블, 어반 프라이버시, 볼레박 등 브랜드가 AI 감시를 혼란시키는 패션을 상용화하고 있습니다.
전문가들은 이 패턴이 특정 AI 모델에 최적화되어 있어, 감시 업체가 모델을 재학습시키면 무력화될 수 있으며, 실제 환경 조건(조명·각도·주름)에서 효과가 떨어질 수 있다고 경고합니다.
What algorithm and method did security researcher Bill Swearingen develop to create computer-printed patterns that hide people, faces, and vAI-generated conceptual image of adversarial camouflage pattern design intended to confuse computer vision systems.
AI 프롬프트
Create a landscape editorial hero image for this Studio Global article: What algorithm and method did security researcher Bill Swearingen develop to create computer-printed patterns that hide people, faces, and v. Article summary: Security researcher Bill Swearingen developed a reinforcement learning system called **noRecognition** that generates adversarial, computer-printed patterns capable of hiding people, faces, and vehicles from AI-powered s. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fa
openai.com
미국 보안 연구원 빌 스워링겐(Bill Swearingen)이 개발한 '노리코그니션(NoRecognition)' 프로젝트는 사람·얼굴·차량을 AI 감시 카메라로부터 숨겨주는 컴퓨터 생성 패턴을 만들어냈다. 3,100만 회에 달하는 테스트를 거친 이 패턴은 이제 실험실을 넘어 실제 거리로 나오고 있다.
노리코그니션 작동 원리
스워링겐의 핵심 방법은 **자기 학습형 퍼저(self-learning fuzzer)**로, 적대적 패턴을 생성해 오픈소스 객체 탐지 알고리즘에 대항해 테스트하는 방식이다. 여전히 탐지를 유발하는 패턴은 수정된 후 다시 테스트되는 반복 루프를 거친다. 약 3,100만 회의 테스트 반복 끝에, 시스템은 스워링겐의 테스트 스위트에 포함된 11개 AI 감시 모델을 모두 무력화하는 패턴 변종을 찾아냈다.
Studio Global AI
연구를 계속하세요
이 페이지에는 Studio Global 내에서 계속할 수 있는 소스 기반 답변이 포함되어 있습니다.
"옷과 자동차에 프린트만 하면 AI 감시망을 피할 수 있다? '노리코그니션' 프로젝트"에 대한 짧은 대답은 무엇입니까?
보안 연구원 빌 스워링겐이 개발한 '노리코그니션'은 강화 학습(유전 알고리즘)을 이용해 AI 감시 카메라의 사람·얼굴·차량 감지를 무력화하는 컴퓨터 생성 패턴을 만듭니다.
먼저 검증할 핵심 포인트는 무엇인가요?
보안 연구원 빌 스워링겐이 개발한 '노리코그니션'은 강화 학습(유전 알고리즘)을 이용해 AI 감시 카메라의 사람·얼굴·차량 감지를 무력화하는 컴퓨터 생성 패턴을 만듭니다. 2026년 8월 7일 라스베이거스 데프콘 34에서 2009년형 도요타 야리스에 이 패턴을 프린트해 플록(Flock) 감시 카메라 앞을 주행, 시스템이 차량을 자동 감지하지 못하는 데 성공했습니다.
실무에서는 다음으로 무엇을 해야 합니까?
가디언지가 2026년 7월 보도한 '적대적 의류(Adversarial Clothing)' 운동과 맞물려, 카페블, 어반 프라이버시, 볼레박 등 브랜드가 AI 감시를 혼란시키는 패션을 상용화하고 있습니다.
스워링겐은 블랙햇(Black Hat) 프리뷰에서 이렇게 설명했다. "이는 일반 천에 프린트되는 적대적 직물 패턴을 '교배'시키는 유전 알고리즘입니다. 전자 장치도 없고, 옆에 있는 사람이 보기에 이상해 보이지도 않으면서, 사람 탐지, 얼굴 탐지, 신원 매칭으로 이어지는 전체 얼굴 인식 파이프라인에 연쇄적 오류를 일으킵니다."
노리코그니션이 무력화한 시스템
스워링겐의 프로젝트는 11개의 다른 AI 감시 모델에 대해 테스트되었으며, 다음을 포함한다:
플록(Flock) — 번호판 판독기 및 감시 카메라
액슨(Axon) — 경찰 바디캠 및 감시 시스템
클리어뷰 AI(Clearview AI) — 얼굴 인식
기타 여러 사람 탐지, 차량 탐지, 얼굴 인식 모델
특히 스워링겐은 자신의 시스템이 "학술적 벤치마크가 아닌 실제 모델들——클리어뷰 AI, 경찰 바디캠, 공항 보안에서 실제로 돌아가는 것들"을 대상으로 테스트한다고 밝혔다.
데프콘 34 공개 테스트
2026년 8월 7일 금요일, 라스베이거스에서 열린 데프콘(Def Con) 사이버보안 컨퍼런스에서 스워링겐은 노리코그니션 패턴의 첫 번째 공개 실제 환경 테스트를 진행했다. 자동차 미디어 '도넛 미디어(Donut Media)'의 도움을 받아 2009년형 도요타 야리스(Toyota Yaris) 차량 전체를 컴퓨터 생성 패턴으로 덮은 뒤 플록(Flock) 감시 카메라 앞을 주행시켰다.
스워링겐에 따르면 차량은 플록 시스템의 자동 탐지를 회피했다——카메라는 탐지 알림을 작동시키지 않았다. 이는 디지털 시뮬레이션이 아닌 실제 물리적 카메라 환경에서 패턴의 유효성이 검증된 첫 번째 사례였다. 다만, 독립 기자들은 이 데모가 단일 비맹검(非盲檢) 테스트였으며, 더 넓은 범위의 동료 검증은 여전히 진행 중이라고 지적했다.
적대적 패션의 부상
스워링겐의 기술 작업과 병행하여 '적대적 의류(adversarial clothing)' 또는 '적대적 패션(adversarial fashion)' 이라는 운동이 주류 트렌드로 떠오르고 있다.
가디언(The Guardian) 지는 2026년 7월, 디자이너들이 얼굴 인식 AI를 혼란시키기 위해 '적대적 패턴'——정교하게 배열된 모양, 색상, 모티프——을 의류에 통합하고 있다고 보도했다. 카페블(Cap_able), 어반 프라이버시(Urban Privacy), 볼레박(Vollebak) 같은 브랜드가 컴퓨터 비전 모델의 취약점을 이용한다는 의류 라인을 생산하고 있다.
베를린 기반의 아티스트 시몬 베케르트(Simon Weckert) 는 '디지털 카무플라주(Digital Camouflage)' 라는 컨셉 컬렉션을 선보였다——어떤 각도나 천 주름에서도 AI 감시 탐지를 방지하도록 설계된 생성적 적대 패턴이 프린트된 의류이다. 이 운동은 '프라이버시가 다음 큰 패션 트렌드가 될 수 있다'고 묘사되며, 착용자는 잠재적으로 자동화된 얼굴 인식을 회피하면서 프라이버시의 중요성에 대한 가시적인 메시지를 전달한다.
이탈리아 패션 스타트업 카페블(Cap_able)은 적대적 패턴이 있는 니트웨어를 만들고, 의류를 뒤집어 입을 수 있도록 제작하여 사용자가 AI에 탐지되기를 원할지 여부를 선택할 수 있게 한다. 이 회사의 특허받은 프로세스는 알고리즘으로 적대적 패턴을 개발하여 소위 'AI-카무플라주'를 만들어낸다.
한계와 군비 경쟁의 의미
이 기술은 만능 해결책이 아니다. 전문가들은 몇 가지 중요한 주의점을 지적한다:
좁은 범위의 효과: 이 패턴은 사람이나 차량을 인간의 눈이나 녹화 자체에서 숨기지 않는다——오직 자동화된 탐지 알고리즘만 교란할 뿐이다. 영상을 보는 인간은 여전히 그 사람을 볼 수 있다.
모델 특이성: 패턴은 스워링겐 테스트 스위트의 특정 아키텍처에 최적화되어 있다. 감시 업체는 자체 모델을 업데이트하여 이 패턴을 인식하고 무시할 수 있으며, 이는 전형적인 적대적 군비 경쟁을 초래한다.
물리적 세계에서의 취약성: 배치된 패턴은 통제된 조건에서 평평한 천에 프린트되었다. 조명, 각도, 거리, 천의 주름, 날씨와 같은 실제 요인은 효과를 떨어뜨릴 수 있으며, 데프콘 테스트는 단일 카메라에 대한 단 한 번의 주행 테스트였다.
재학습 위험: 가디언이 지적했듯이, 전문가들은 적대적 패턴이 감시 모델이 해당 적대적 예시로 재학습될 때까지만 효과가 있으며, 그 후에는 보호 기능이 사라질 수 있다고 경고한다.
법적·윤리적 회색 지대: 스워링겐은 이 기술을 프라이버시 옵트아웃 메커니즘으로 설명하지만, 법 집행 기관은 이를 회피 도구로 간주하여 규제나 법적 도전으로 이어질 수 있다.
독립적 검증 부족: 독립 기자들은 데프콘 데모가 단일 비맹검 테스트였으며, 실제 환경에서의 패턴 효과에 대한 더 넓은 범위의 동료 검증이 여전히 진행 중이라고 지적했다.
프라이버시를 위한 의미
노리코그니션은 AI 감시에 대한 실용적이고 착용 가능한 방어책을 만들기 위한 가장 엄격한 시도 중 하나이다. 3,100만 회의 테스트와 플록 카메라에 대한 실시간 시연을 통해 이 프로젝트는 학술적 개념 증명 단계를 넘어섰다. 그러나 적대적 패턴이 빠르게 진화하는 감시 AI와의 군비 경쟁에서 살아남을 수 있을지, 그리고 더 넓은 적대적 패션 운동이 대규모로 실제 프라이버시 보호를 제공할 수 있을지는 여전히 열린 질문이다.
스워링겐 자신이 표현했듯이, 핵심 질문은 이것이다: "물리적 직물이 실제 조건에서 최첨단 얼굴 인식을 정말로 무력화할 수 있을까?" 현재의 답변은, AI가 따라잡을 때까지는 그렇다는 것이다.
shostack.org
Black Hat Talks I'm Excited to Attend This Year ...
스워링겐은 블랙햇(Black Hat) 프리뷰에서 이렇게 설명했다. "이는 일반 천에 프린트되는 적대적 직물 패턴을 '교배'시키는 유전 알고리즘입니다. 전자 장치도 없고, 옆에 있는 사람이 보기에 이상해 보이지도 않으면서, 사람 탐지, 얼굴 탐지, 신원 매칭으로 이어지는 전체 얼굴 인식 파이프라인에 연쇄적 오류를 일으킵니다."
노리코그니션이 무력화한 시스템
스워링겐의 프로젝트는 11개의 다른 AI 감시 모델에 대해 테스트되었으며, 다음을 포함한다:
플록(Flock) — 번호판 판독기 및 감시 카메라
액슨(Axon) — 경찰 바디캠 및 감시 시스템
클리어뷰 AI(Clearview AI) — 얼굴 인식
기타 여러 사람 탐지, 차량 탐지, 얼굴 인식 모델
특히 스워링겐은 자신의 시스템이 "학술적 벤치마크가 아닌 실제 모델들——클리어뷰 AI, 경찰 바디캠, 공항 보안에서 실제로 돌아가는 것들"을 대상으로 테스트한다고 밝혔다.
데프콘 34 공개 테스트
2026년 8월 7일 금요일, 라스베이거스에서 열린 데프콘(Def Con) 사이버보안 컨퍼런스에서 스워링겐은 노리코그니션 패턴의 첫 번째 공개 실제 환경 테스트를 진행했다. 자동차 미디어 '도넛 미디어(Donut Media)'의 도움을 받아 2009년형 도요타 야리스(Toyota Yaris) 차량 전체를 컴퓨터 생성 패턴으로 덮은 뒤 플록(Flock) 감시 카메라 앞을 주행시켰다.
스워링겐에 따르면 차량은 플록 시스템의 자동 탐지를 회피했다——카메라는 탐지 알림을 작동시키지 않았다. 이는 디지털 시뮬레이션이 아닌 실제 물리적 카메라 환경에서 패턴의 유효성이 검증된 첫 번째 사례였다. 다만, 독립 기자들은 이 데모가 단일 비맹검(非盲檢) 테스트였으며, 더 넓은 범위의 동료 검증은 여전히 진행 중이라고 지적했다.
적대적 패션의 부상
스워링겐의 기술 작업과 병행하여 '적대적 의류(adversarial clothing)' 또는 '적대적 패션(adversarial fashion)' 이라는 운동이 주류 트렌드로 떠오르고 있다.
가디언(The Guardian) 지는 2026년 7월, 디자이너들이 얼굴 인식 AI를 혼란시키기 위해 '적대적 패턴'——정교하게 배열된 모양, 색상, 모티프——을 의류에 통합하고 있다고 보도했다. 카페블(Cap_able), 어반 프라이버시(Urban Privacy), 볼레박(Vollebak) 같은 브랜드가 컴퓨터 비전 모델의 취약점을 이용한다는 의류 라인을 생산하고 있다.
베를린 기반의 아티스트 시몬 베케르트(Simon Weckert) 는 '디지털 카무플라주(Digital Camouflage)' 라는 컨셉 컬렉션을 선보였다——어떤 각도나 천 주름에서도 AI 감시 탐지를 방지하도록 설계된 생성적 적대 패턴이 프린트된 의류이다. 이 운동은 '프라이버시가 다음 큰 패션 트렌드가 될 수 있다'고 묘사되며, 착용자는 잠재적으로 자동화된 얼굴 인식을 회피하면서 프라이버시의 중요성에 대한 가시적인 메시지를 전달한다.
이탈리아 패션 스타트업 카페블(Cap_able)은 적대적 패턴이 있는 니트웨어를 만들고, 의류를 뒤집어 입을 수 있도록 제작하여 사용자가 AI에 탐지되기를 원할지 여부를 선택할 수 있게 한다. 이 회사의 특허받은 프로세스는 알고리즘으로 적대적 패턴을 개발하여 소위 'AI-카무플라주'를 만들어낸다.
한계와 군비 경쟁의 의미
이 기술은 만능 해결책이 아니다. 전문가들은 몇 가지 중요한 주의점을 지적한다:
좁은 범위의 효과: 이 패턴은 사람이나 차량을 인간의 눈이나 녹화 자체에서 숨기지 않는다——오직 자동화된 탐지 알고리즘만 교란할 뿐이다. 영상을 보는 인간은 여전히 그 사람을 볼 수 있다.
모델 특이성: 패턴은 스워링겐 테스트 스위트의 특정 아키텍처에 최적화되어 있다. 감시 업체는 자체 모델을 업데이트하여 이 패턴을 인식하고 무시할 수 있으며, 이는 전형적인 적대적 군비 경쟁을 초래한다.
물리적 세계에서의 취약성: 배치된 패턴은 통제된 조건에서 평평한 천에 프린트되었다. 조명, 각도, 거리, 천의 주름, 날씨와 같은 실제 요인은 효과를 떨어뜨릴 수 있으며, 데프콘 테스트는 단일 카메라에 대한 단 한 번의 주행 테스트였다.
재학습 위험: 가디언이 지적했듯이, 전문가들은 적대적 패턴이 감시 모델이 해당 적대적 예시로 재학습될 때까지만 효과가 있으며, 그 후에는 보호 기능이 사라질 수 있다고 경고한다.
법적·윤리적 회색 지대: 스워링겐은 이 기술을 프라이버시 옵트아웃 메커니즘으로 설명하지만, 법 집행 기관은 이를 회피 도구로 간주하여 규제나 법적 도전으로 이어질 수 있다.
독립적 검증 부족: 독립 기자들은 데프콘 데모가 단일 비맹검 테스트였으며, 실제 환경에서의 패턴 효과에 대한 더 넓은 범위의 동료 검증이 여전히 진행 중이라고 지적했다.
프라이버시를 위한 의미
노리코그니션은 AI 감시에 대한 실용적이고 착용 가능한 방어책을 만들기 위한 가장 엄격한 시도 중 하나이다. 3,100만 회의 테스트와 플록 카메라에 대한 실시간 시연을 통해 이 프로젝트는 학술적 개념 증명 단계를 넘어섰다. 그러나 적대적 패턴이 빠르게 진화하는 감시 AI와의 군비 경쟁에서 살아남을 수 있을지, 그리고 더 넓은 적대적 패션 운동이 대규모로 실제 프라이버시 보호를 제공할 수 있을지는 여전히 열린 질문이다.
스워링겐 자신이 표현했듯이, 핵심 질문은 이것이다: "물리적 직물이 실제 조건에서 최첨단 얼굴 인식을 정말로 무력화할 수 있을까?" 현재의 답변은, AI가 따라잡을 때까지는 그렇다는 것이다.
shostack.org
Black Hat Talks I'm Excited to Attend This Year ...
