Theo Flock, Hỗ trợ Kiểm toán sử dụng AI để xác định các mẫu hành vi tra cứu nằm ngoài quy định của sở cảnh sát. Ví dụ như:
Khi hệ thống phát hiện các hành vi này, nó có thể tự động khóa tài khoản của người dùng đó cho đến khi quản trị viên của cơ quan xem xét và can thiệp . Giám đốc điều hành Flock, Garrett Langley, cho biết công cụ này đã 'góp phần vào việc bắt giữ một số sĩ quan thực thi pháp luật bị cáo buộc lạm dụng hệ thống'
.
Mặc dù được nhiều hãng truyền thông yêu cầu, Flock từ chối tiết lộ các chi tiết kỹ thuật quan trọng về Hỗ trợ Kiểm toán . Công ty chưa công bố:
ACLU, EFF và Trung tâm Brennan đã chỉ trích mạnh mẽ các cải cách này. ACLU gọi toàn bộ gói cải cách là một 'nỗ lực PR trá hình' và tuyên bố thẳng thừng rằng 'hiệu quả của công cụ kiểm toán của hãng chưa bao giờ được đánh giá một cách độc lập' .
Những lo ngại rộng hơn bao gồm:
Những thay đổi này diễn ra sau một làn sóng lạm dụng của cảnh sát, bao gồm:
Giám đốc điều hành Flock, Garrett Langley, thừa nhận trong một cuộc phỏng vấn với BBC rằng công ty 'đã mất quá nhiều thời gian để hành động' và thừa nhận các biện pháp bảo vệ mới lẽ ra nên được giới thiệu sớm hơn .
Công cụ Hỗ trợ Kiểm toán của Flock đại diện cho một bước tiến đáng kể trong việc giám sát tự động hoạt động giám sát của cảnh sát. Tuy nhiên, nếu không có sự đánh giá độc lập về thuật toán, dữ liệu huấn luyện và hiệu quả của nó, các nhà phê bình vẫn hoài nghi rằng đây chỉ là phản ứng quan hệ công chúng trước các vụ bê bối lạm dụng ngày càng gia tăng.