En narkotikasmugler i New York ble arrestert etter at et AI-drevet overvåkingssystem flagget kjøremønsteret hans som mistenkelig.
David Zayas ble arrestert i mars 2022, men det er først nylig at bruken av AI-overvåkning ble kjent da advokaten hans sendte inn en FOIA-søknad. Politiet i Westchester County har brukt Rekor Scout-programvare som henter data fra ALPR-kameraene (automatisk nummerskiltgjenkjenning) og ser etter mistenkelig kjøreatferd.
Uten AI-en er det lite sannsynlig at Zayas ville ha blitt arrestert. På det tidspunktet kjørte han bilen sin på en måte som ikke ville ha tiltrukket seg noen oppmerksomhet fra politiet. Men den kunstige intelligensen oppdaget noe som ingen politimann kunne.
De 480 ALPR-kameraene som politiet i Westchester bruker, skanner omtrent 16 millioner bilskilt i uken. Rekors programvare finkjemmet to år med data og markerte kjøretøyet Zayas kjørte i som mistenkelig.
Den identifiserte at kjøretøyet i løpet av en periode på 10 måneder i 2020 og 2021 hadde kjørt 9 turer langs en kjent rute for narkotikasmugling.
Da politiet fulgte opp AI-tipset og stoppet ham, fant de narkotika, en pistol og tusenvis av dollar i bilen. Tatt på fersken.
AI-overvåking reiser spørsmål om personvern
Zayas erklærte seg skyldig, og AIs involvering i arrestasjonen av ham ville ikke ha nådd nyhetene om det ikke var for advokaten hans, Ben Gold, som leverte inn en begjæring om å undertrykke bevisene.
I forslaget sitt sa Gold: "Dette er en systematisk utvikling og utplassering av et omfattende overvåkingsnettverk som krenker samfunnets rimelige forventning om privatlivets fred."
ALPR-kameraer er ikke ny teknologi. De har eksistert i årevis, og sjekker bilskilt mot en liste over flaggede skilt og gir politiet beskjed når de oppdager et skilt. Det som er nytt, er hva AI-programvare som Rekor Scout kan gjøre med denne informasjonen.
Programvaren sporer hver eneste bil ved hjelp av nummerskilt, farge og modell, og den vet hvor den har vært, så lenge politiet har oppbevart dataene. Å identifisere et kjøremønster som mistenkelig narkotikavirksomhet høres bra ut, men metoden for å få tak i dataene føles inngripende.
Det er som å stoppe og ransake alle som går nedover en gate for å ta én forbryter. Vi vil at skurken skal bli tatt, men ikke hvis det betyr at vi alle må tømme lommene våre.
Statlige institusjoner har vært i en hastverk med å regulere det de oppfatter som farer ved AI, men de ser ut til å være mindre bekymret for etikken ved bruk av AI i rettshåndhevelse.
Etter hvert som flere borgerrettighetsgrupper offentliggjør hvordan AI overvåker oss på t-banen eller mens vi kjører bil, ser det ut til at AI har overvåket oss lenger enn vi tror. Og det er lite sannsynlig at det vil avta.
