Metropolitan Transit Authority (MTA) har i tysthet rullat ut AI-övervakning på 7 av New York Citys tunnelbanestationer för att övervaka biljettförsäljare.
Lösningen bygger på AI-driven programvara som utformats av ett spanskt programvaruföretag som heter AWAAIT. MTA har cirka 10.000 övervakningskameror i hela sitt transportsystem, och programvaran integreras med dessa för att upptäcka personer som hoppar över vändkorset.
Programvaran kan upptäcka plankare och sedan skicka bilder på dem till stationsmedarbetarnas smartphones. MTA sa att övervakningssystemet inte rapporterar biljettfuskare till NYC-polisen men ville inte kommentera om denna policy skulle ändras i framtiden.
MTA: s kommunikationsdirektör Tim Minton sa att MTA "använde det i huvudsak som ett räkneverktyg. Målet är att avgöra hur många som smiter från biljettpriset och hur de gör det."
De 7 stationer där AI-övervakningssystemet användes namngavs inte och MTA sa att de planerade att implementera lösningen på ytterligare cirka 24 icke namngivna tunnelbanestationer före slutet av 2023.
I en ny rapport sa MTA att de förlorade $690 miljoner till biljettprisfuskare i hela sitt transitsystem 2022, med tunnelbanans biljettprisfuskare som stod för $285 miljoner av detta. Att ha 10.000 kameror utbildade på transitsystemet är bra och bra men det skapar en överväldigande uppgift för mänskliga operatörer att övervaka. Det verkar vara det perfekta jobbet för ett AI-verktyg.
Men NYC är redan en av de mest övervakade städerna i världen och Amnesty International har uttryckt oro över de nästan 25.000 kameror som används av NYPD tillsammans med teknik för ansiktsigenkänning.
Användningen av AI-övervakning i tunnelbanan har ökat dessa integritetsfrågor. Minton säger att bilderna som fångas av programvaran bara lagras "under en begränsad period" utan att säga hur lång den var.
Surveillance Technology Oversight Project (S.T.O.P) verkställande direktör, Albert Fox Cahn, sa "AI kan inte fixa transitens oöverkomlighet, men det kan skrämma människor ut." och tillade att "detta väcker verklig oro över hur MTA spårar New Yorkers och var dessa uppgifter förvaras."
MTA:s provkörning av AI-övervakningen startade faktiskt i maj i år men blev känd först i juli i en tillkännagivande av S.T.O.P. Medborgarrättsgruppen kunde slutligen få en redigerad version av det tidigare orapporterade kontraktet enligt lagen om informationsfrihet. Det får en att undra hur utbredd den orapporterade användningen av AI-övervakning är i våra städer.
Den diskriminerande effekten av kameraövervakning är redan en öm punkt för integritetsförespråkare. Artificiell intelligens har också fått sin beskärda del av kritik för hur AI verkar förstärka fördomar. Att kombinera AI med kameraövervakning kan spara pengar åt MTA och det kan till och med göra oss säkrare, men till vilket pris?
