AI 감시 '오디트 어시스턴스'로 경찰 남용 막는다는 플록, 하지만 비판론자들은 납득하지 않는다

시스템이 이러한 행동을 감지하면, 플래그가 지정된 사용자를 자동으로 잠금 처리하여 기관 관리자가 검토하고 개입할 때까지 접근을 차단합니다 . 플록 CEO 개릿 랭글리(Garrett Langley)는 이 도구가 이미 "시스템을 남용한 혐의를 받는 여러 경찰관의 체포와 관련이 있다"고 말했습니다 .

플록이 공개하지 않은 정보

여러 언론의 질문에도 불구하고, 플록은 오디트 어시스턴스에 대한 핵심 기술적 세부 사항을 공개하지 않았습니다 . 회사가 공개하지 않은 내용은 다음과 같습니다:

• 알고리즘 세부 사항: AI가 '비정상'으로 간주하는 정확한 행동 신호나 임계값이 무엇인지
• 훈련 데이터: 탐지 모델을 훈련하는 데 사용된 데이터. 플록의 개인정보 보호정책에 따르면 캡처된 이미지의 1% 미만(메타데이터 제거)이 머신러닝에 내부적으로 사용될 수 있지만, 이것이 오디트 어시스턴스에 적용되는지는 확인되지 않았습니다
• 효과성 지표: 오탐지율, 탐지율 또는 기타 성능 벤치마크가 전혀 공개되지 않았습니다. 테크크런치(TechCrunch)는 플록이 "도구의 작동 방식을 설명하지 않았으며" 남용 적발에 효과적이라는 증거도 제시하지 않았다고 지적했습니다

프라이버시 전문가와 비판론자들의 반응

ACLU, EFF, 브레넌 센터(Brennan Center)는 이번 개선 조치에 대해 강한 비판을 쏟아냈습니다. ACLU는 전체 개선 패키지를 "얇게 포장된 PR 시도" 라고 부르며 "감사 도구의 효과성은 독립적으로 평가된 적이 없다"고 단언했습니다 .

더 넓은 우려 사항은 다음과 같습니다:

• 오디트 어시스턴스는 여전히 개별 기관이 플래그를 검토하고 조치를 취하는 데 전적으로 의존합니다. 플록은 남용 자체를 차단하는 것이 아니라 플래그를 지정하고 인간의 검토가 있을 때까지 계정을 잠글 뿐입니다
• 시스템에 독립적인 감사 메커니즘이나 제3자 감독이 내장되어 있지 않습니다

더 넓은 개혁과 맥락

오디트 어시스턴스는 플록이 2026년 8월 13일 발표한 여러 변경 사항 중 하나일 뿐입니다 :

• 데이터 보존 기간 단축: ALPR 데이터의 기본 보존 기간이 30일에서 7일로 단축되었습니다.
• 증거 모드(Evidence Mode): 활성 형사 사건에 대해서만 데이터를 보존할 수 있는 새로운 기능입니다.
• 사건 번호 필수 입력: 이제 모든 검색에 형사 사건 번호를 연결해야 합니다.

이러한 변화는 폭로된 경찰 남용 사례에 따른 것입니다. 대표적인 사례:

• 조지아주 비비 카운티 보안관 보조관 3명 — 코즈네이비언 스텁스(Coznavian Stubbs), 토니 시에라 루이스(Toni Cierra Lewis), 조셉 마키 캘러웨이(Joseph Marquee Callaway) — 2026년 8월 10일, 플록 카메라를 이용해 지인을 개인적인 이유로 스토킹한 혐의로 체포되었습니다. 이들은 스토킹 및 컴퓨터 사생활 침해 혐의로 기소되었습니다 .
• 조지아주 리치먼드 카운티: 보안관 사무실 직원 3명(중위 존 매켄지, 수사관 커티스 호스킨스, 보조관 조슈아 존슨)이 2026년 7월 비슷한 플록 카메라 남용 혐의로 체포 및 해고되었습니다 .
• 조지아주 오기치 사법관할구: 수사관 앤드레이 라이트(Andrae Wright)가 3주 동안 60회 이상 플록 시스템에 접근해 사람을 스토킹한 혐의로 체포되었습니다 .

플록 CEO 개릿 랭글리는 BBC와의 인터뷰에서 회사가 "행동에 옮기는 데 너무 오래 걸렸다"고 인정하며, 새로운 안전 장치가 더 일찍 도입되었어야 했다고 말했습니다 .

결론

플록의 오디트 어시스턴스 도구는 경찰 감시 활동에 대한 자동화된 감독을 향한 중요한 발걸음입니다. 그러나 알고리즘, 훈련 데이터 및 효과성에 대한 독립적인 평가 없이는, 비판가들은 이것이 증가하는 남용 스캔들에 대한 단순한 홍보 대응에 불과하다는 회의적인 시각을 유지하고 있습니다.