Metropolitan Transit Authority (MTA) har i al stilfærdighed indført AI-overvågning på 7 af New Yorks metrostationer for at overvåge svindlere.
Løsningen er baseret på AI-drevet software designet af et spansk softwarefirma ved navn AWAAIT. MTA har omkring 10.000 overvågningskameraer i hele sit transitsystem, og softwaren integreres med disse for at spotte turnstile jumpers.
Softwaren er i stand til at opdage snydere og derefter sende deres billeder til stationsmedarbejdernes smartphones. MTA sagde, at overvågningssystemet ikke rapporterer snydere til politiet i New York, men ville ikke kommentere på, om denne politik ville ændre sig i fremtiden.
MTA's kommunikationsdirektør Tim Minton sagde, at MTA "i bund og grund bruger det som et tælleværktøj. Målet er at finde ud af, hvor mange mennesker der snyder, og hvordan de gør det."
De 7 stationer, hvor AI-overvågningssystemet blev anvendt, blev ikke nævnt, og MTA sagde, at de planlagde at implementere løsningen på yderligere 24 unavngivne metrostationer inden udgangen af 2023.
I en nylig rapport sagde MTA, at de mistede $690 mio. kr. på grund af billetfusk i hele transitsystemet i 2022, og at billetfuskerne i metroen stod for $285 mio. kr. af dette. Det er fint nok at have 10.000 kameraer rettet mod transitsystemet, men det skaber en overvældende opgave for de menneskelige operatører at overvåge. Det virker som det perfekte job for et AI-værktøj.
Men NYC er allerede en af de mest overvågede byer i verden, og Amnesty International har udtrykt bekymring over de næsten 25.000 kameraer, der bruges af NYPD sammen med ansigtsgenkendelsesteknologi.
Brugen af AI-overvågning i metroen har forstærket disse problemer. Bekymringer om privatlivets fred. Minton siger, at de billeder, der tages af softwaren, kun gemmes "i en begrænset periode" uden at sige, hvor lang tid det er.
Direktør for Surveillance Technology Oversight Project (S.T.O.P), Albert Fox Cahn, sagde, at "AI ikke kan løse problemet med uoverkommelig transport, men det kan skræmme folk." Og tilføjede, at "dette giver anledning til reel bekymring over, hvordan MTA sporer New Yorkere, og hvor disse data opbevares."
MTA's forsøg med AI-overvågning startede faktisk i maj i år, men kom først frem i lyset i juli i en annoncering af S.T.O.P. Borgerrettighedsgruppen var endelig i stand til at få en redigeret version af den tidligere urapporterede kontrakt i henhold til loven om informationsfrihed. Det får en til at spekulere på, hvor udbredt den ikke-rapporterede brug af AI-overvågning er i vores byer.
Den diskriminerende effekt af kameraovervågning er allerede et ømt punkt for fortalere for privatlivets fred. Kunstig intelligens har også fået sin del af kritikken for, hvordan AI ser ud til at forstærke fordomme. Ved at kombinere AI med kameraovervågning kan MTA spare penge, og det kan endda gøre os mere sikre, men til hvilken pris?
