Według Flock, Audit Assistance wykorzystuje sztuczną inteligencję do identyfikowania wzorców wyszukiwania, które odbiegają od polityki danej jednostki. Przykłady obejmują:
Gdy system zidentyfikuje takie zachowanie, może automatycznie zablokować dostęp oznaczonemu użytkownikowi do czasu, aż administrator jednostki dokona przeglądu i podejmie interwencję . CEO Flock, Garrett Langley, stwierdził, że narzędzie było już „powiązane z aresztowaniami kilku funkcjonariuszy, którzy rzekomo nadużywali systemu”
.
Pomimo licznych zapytań mediów, Flock odmówił ujawnienia kluczowych szczegółów technicznych dotyczących Audit Assistance . Firma nie udostępniła:
ACLU, EFF oraz Brennan Center ostro skrytykowały te zmiany. ACLU nazwał cały pakiet „cienko zawoalowaną próbą PR-ową” i stwierdził wprost, że „skuteczność jego narzędzia audytowego nigdy nie została niezależnie oceniona” .
Szersze obawy obejmują:
Zmiany te nastąpiły po fali udokumentowanych nadużyć policji, w tym:
CEO Flock, Garrett Langley, przyznał w wywiadzie dla BBC, że firma „zbyt długo zwlekała z działaniem” i potwierdził, że nowe zabezpieczenia powinny zostać wprowadzone wcześniej .
Narzędzie Audit Assistance firmy Flock stanowi znaczący krok w kierunku zautomatyzowanego nadzoru nad policyjną działalnością inwigilacyjną. Jednak bez niezależnej oceny jego algorytmu, danych treningowych i skuteczności, krytycy pozostają sceptyczni, czy jest to coś więcej niż tylko odpowiedź PR-owa na narastające skandale związane z nadużyciami.