En narkotikahandlare i New York greps efter att ett AI-drivet övervakningssystem flaggat för att hans körmönster var misstänkt.
David Zayas greps redan i mars 2022 men det är först nyligen som användningen av AI-övervakningen kom fram när hans advokat lämnade in en FOIA-ansökan. Westchester County Police Department har använt Rekor Scout programvara som tar data från ALPR-kameror (Automatic License Plate Recognition) och kontrollerar misstänkta körbeteenden.
Utan AI är det osannolikt att Zayas skulle ha gripits. Vid den aktuella tidpunkten körde han sin bil på ett sätt som inte skulle ha väckt någon uppmärksamhet från polisen. Men AI:n upptäckte något som ingen polis kunde göra.
De 480 ALPR-kameror som polisen i Westchester använder skannar cirka 16 miljoner registreringsskyltar i veckan. Rekors programvara gick igenom två års data och markerade fordonet som Zayas färdades i som misstänkt.
Det visade sig att fordonet under en period på 10 månader 2020 och 2021 hade gjort 9 resor längs en känd narkotikahandelsrutt.
När polisen reagerade på AI-tipset och stoppade honom hittade de droger, en pistol och tusentals dollar i fordonet. Taget på bar gärning.
AI-övervakning väcker frågor om integritet
Zayas erkände sig skyldig och AI:s inblandning i hans gripande skulle inte ha nått nyheterna om det inte vore för hans advokat Ben Gold, som lämnade in en begäran om att bevisen skulle undanröjas.
I sitt yrkande sade Gold: "Detta är den systematiska utvecklingen och spridningen av ett omfattande övervakningsnätverk som inkräktar på samhällets rimliga förväntningar på integritet."
ALPR-kameror är inte ny teknik. De har funnits i flera år och kontrollerar registreringsskyltar mot en lista med flaggade skyltar och meddelar polisen när de upptäcker en. Det som är nytt är vad AI-programvara som Rekor Scout kan göra med den informationen.
Programvaran spårar varje bil med hjälp av registreringsskylt, färg och modell och vet var den har varit, så länge som polisen har sparat uppgifterna. Att identifiera ett körmönster som misstänkt drogaktivitet låter bra, men sättet att få fram uppgifterna känns invasivt.
Det är som att göra en stop-and-frisk av alla som går längs en gata för att fånga en brottsling. Vi vill att skurken ska fångas, men inte om det innebär att vi alla måste vända ut och in på våra fickor.
Statliga institutioner har befunnit sig i en brådska att reglera vad de uppfattar som faror med AI, men de verkar vara mindre bekymrade över etiken i att använda AI i brottsbekämpningen.
I takt med att fler medborgarrättsgrupper offentliggör hur AI bevakar oss på tunnelbanan eller när vi kör bil, verkar det som om AI har bevakat oss längre än vi tror. Och det är osannolikt att det kommer att sakta ner.
