Een drugshandelaar in New York werd gearresteerd nadat een AI-bewakingssysteem zijn rijgedrag als verdacht markeerde.
David Zayas werd in maart 2022 gearresteerd, maar pas onlangs kwam het gebruik van AI-surveillance aan het licht toen zijn advocaat een FOIA-aanvraag indiende. De politie van Westchester County heeft Rekor Scout software die gegevens van de camera's voor automatische nummerplaatherkenning (ALPR) opneemt en controleert op verdacht rijgedrag.
Zonder de AI is het onwaarschijnlijk dat Zayas gearresteerd zou zijn. Op dat moment reed hij in zijn auto op een manier die geen aandacht van de politie zou hebben getrokken. Maar de AI pikte iets op wat geen agent kon.
De 480 ALPR-camera's die de politie van Westchester gebruikt, scannen ongeveer 16 miljoen kentekens per week. De software van Rekor doorzocht 2 jaar van die gegevens en markeerde het voertuig waarin Zayas reed als verdacht.
Vastgesteld werd dat het voertuig in een periode van 10 maanden in 2020 en 2021 9 ritten had gemaakt langs een bekende drugshandelroute.
Toen de politie actie ondernam naar aanleiding van de tip van AI en hem aan de kant zette, vonden ze drugs, een pistool en duizenden dollars in het voertuig. Betrapt.
AI-bewaking werpt vragen op over privacy
Zayas pleitte schuldig en AI's betrokkenheid bij zijn arrestatie zou het nieuws niet hebben gehaald als zijn advocaat, Ben Gold, geen motie had ingediend om het bewijs te onderdrukken.
In zijn motie zei Gold: "Dit is de systematische ontwikkeling en inzet van een uitgebreid surveillancenetwerk dat inbreuk maakt op de redelijke verwachting van privacy van de samenleving."
ALPR-camera's zijn geen nieuwe technologie. Ze bestaan al jaren en vergelijken nummerplaten met een lijst van gemarkeerde platen en laten de politie weten wanneer ze er een zien. Nieuw is wat AI-software zoals Rekor Scout met die informatie kan doen.
De software spoort elke auto op aan de hand van kenteken, kleur en model en weet waar de auto is geweest, zolang de politie de gegevens bijhoudt. Het identificeren van een rijpatroon als verdachte drugsactiviteit klinkt goed, maar de manier om de gegevens te krijgen voelt invasief.
Het is alsof je iedereen die op straat loopt aanhoudt en fouilleert om één crimineel te pakken. We willen dat de slechterik gepakt wordt, maar niet als dat betekent dat we allemaal onze zakken moeten omdraaien.
Staatsinstellingen zijn in een haast om te reguleren wat zij zien als de gevaren van AI, maar ze lijken zich minder zorgen te maken over de ethiek van het gebruik van AI bij wetshandhaving.
Naarmate meer burgerrechtengroepen bekendmaken hoe AI houdt ons in de gaten in de metro of terwijl we rijden, lijkt het erop dat AI ons al langer in de gaten houdt dan we denken. En het zal waarschijnlijk niet langzamer gaan.
