Flock Audit Assistance: Das KI-Werkzeug, das Polizei-Missbrauch aufdecken soll – und warum Kritiker nicht überzeugt sind

Flock Safety, der dominierende US-Anbieter von automatischen Kennzeichenlesern (ALPR), hat ein neues KI-gestütztes Feature namens Audit Assistance vorgestellt, das den Missbrauch des Überwachungsnetzwerks durch die Polizei erkennen und melden soll. Das Feature wurde im April 2026 als optionales Tool eingeführt und am 13. August 2026 gab Flock bekannt, dass es bis Ende 2026 für alle rund 7.000 Polizeikunden verpflichtend wird .

Die Ankündigung erfolgte vor dem Hintergrund einer Welle dokumentierter Missbrauchsfälle, darunter die Festnahme von mindestens drei Sheriff-Deputy aus Georgia, die Flock-Kameras nutzten, um ihnen bekannte Personen zu stalken . Insgesamt wurden laut einer Untersuchung des Guardian mehr als 50 Polizeibeamte beschuldigt oder angeklagt, Flocks Technologie missbraucht zu haben .

Wie Audit Assistance funktionieren soll

Laut Flock nutzt Audit Assistance künstliche Intelligenz, um Suchmuster zu identifizieren, die außerhalb der Richtlinien einer Behörde liegen. Beispiele hierfür sind:

• Ein Beamter, der wiederholt dasselbe Kennzeichen abfragt
• Durchführung von Recherchen außerhalb der regulären Dienstzeiten
• Abfragen ohne zugehörige Fallnummer

Wenn das System ein solches Verhalten erkennt, kann es den betroffenen Nutzer automatisch sperren, bis ein Administrator die Angelegenheit überprüft und eingreift . Flock-CEO Garrett Langley erklärte, das Tool habe bereits zu "Festnahmen mehrerer Polizeibeamter geführt, die das System angeblich missbraucht haben" .

Was Flock nicht offengelegt hat

Trotz mehrfacher Medienanfragen weigerte sich Flock, wichtige technische Details zu Audit Assistance preiszugeben . Das Unternehmen hat nicht offengelegt:

• Algorithmus-Details: Welche genauen Verhaltenssignale oder Schwellenwerte die KI verwendet, um zu bestimmen, was als "abnormal" gilt
• Trainingsdaten: Welche Daten zur Schulung des Erkennungsmodells verwendet wurden. Flocks Datenschutzrichtlinie besagt, dass weniger als 1 % der erfassten Bilder (ohne Metadaten) intern für maschinelles Lernen verwendet werden dürfen, aber es wurde nicht bestätigt, ob dies für Audit Assistance gilt
• Wirksamkeitskennzahlen: Es wurden keine Falsch-Positiv-Raten, Erkennungsraten oder andere Leistungsbenchmarks veröffentlicht. TechCrunch stellte fest, dass Flock "nicht erklärt hat, wie es funktioniert" und keine Beweise dafür vorgelegt hat, dass das Tool Missbrauch wirksam erkennt

Reaktionen von Datenschützern und Kritikern

Die ACLU, EFF und das Brennan Center haben die Reformen scharf kritisiert. Die ACLU bezeichnete das gesamte Paket als einen "durchsichtigen PR-Versuch" und stellte klar, dass "die Wirksamkeit des Audit-Tools nie unabhängig bewertet wurde" .

Weitere Bedenken:

• Audit Assistance verlässt sich immer noch vollständig darauf, dass die einzelnen Behörden Meldungen prüfen und Maßnahmen ergreifen. Flock verhindert Missbrauch nicht selbst, sondern markiert ihn lediglich und sperrt Konten bis zur menschlichen Überprüfung
• Es gibt keinen unabhängigen Prüfmechanismus oder eine Überwachung durch Dritte im System

Umfassendere Reformen und Kontext

Audit Assistance ist nur eine von mehreren Änderungen, die Flock am 13. August 2026 ankündigte :

• Reduzierte Datenspeicherung: Die Standard-Speicherdauer für ALPR-Daten wurde von 30 Tagen auf 7 Tage verkürzt
• Evidence Mode: Eine neue Funktion ermöglicht es, Daten nur für laufende Strafverfahren aufzubewahren
• Fallnummern-Pflicht: Beamte müssen nun jede Suche mit einer Fallnummer versehen

Diese Änderungen erfolgten nach einer Welle dokumentierten Polizei-Missbrauchs, darunter:

• Drei Deputy aus Bibb County, Georgia – Coznavian Stubbs, Toni Cierra Lewis und Joseph Marquee Callaway – wurden am 10. August 2026 verhaftet, nachdem sie Flock-Kameras genutzt hatten, um ihnen bekannte Personen aus persönlichen Gründen zu stalken. Sie wurden wegen Stalkings und Computer-Invasions of Privacy angeklagt .
• Richmond County, Georgia: Drei Mitarbeiter des Sheriff-Büros (Lt. John McKenzie, Investigator Curtis Hoskins und Deputy Joshua Johnson) wurden im Juli 2026 verhaftet und entlassen, weil sie Flock-Kameras ähnlich missbraucht hatten .
• Ogeechee Judicial Circuit, Georgia: Investigator Andrae Wright wurde verhaftet, weil er innerhalb von drei Wochen mehr als 60 Mal auf das Flock-System zugegriffen hatte, um eine Person zu stalken .

Flock-CEO Garrett Langley räumte in einem Interview mit der BBC ein, dass das Unternehmen "zu lange gebraucht habe, um zu handeln" und gab zu, dass die neuen Schutzmaßnahmen früher hätten eingeführt werden müssen .

Fazit

Flocks Audit-Assistance-Tool stellt einen bedeutenden Schritt in Richtung automatisierter Überwachung von Polizeiaktivitäten dar. Ohne unabhängige Bewertung des Algorithmus, der Trainingsdaten und der Wirksamkeit bleiben Kritiker jedoch skeptisch, dass es sich um mehr als eine PR-Maßnahme als Reaktion auf die zunehmenden Missbrauchsskandale handelt.