Metropolitan Transit Authority (MTA) har i all stillhet rullet ut AI-overvåking på 7 av New Yorks T-banestasjoner for å overvåke billettsnytere.
Løsningen baserer seg på AI-drevet programvare utviklet av det spanske programvareselskapet AWAAIT. MTA har rundt 10 000 overvåkningskameraer i hele kollektivsystemet, og programvaren integreres med disse for å oppdage personer som hopper over svingkøer.
Programvaren kan oppdage billettsnytere og deretter sende bilder av dem til smarttelefonene til stasjonsbetjentene. MTA sier at overvåkningssystemet ikke rapporterer billettsnytere til politiet i New York, men vil ikke kommentere om denne policyen vil bli endret i fremtiden.
Kommunikasjonsdirektør Tim Minton i MTA sa at MTA "i hovedsak bruker det som et telleverktøy. Målet er å finne ut hvor mange som unndrar seg billettprisen, og hvordan de gjør det."
De syv stasjonene der AI-overvåkningssystemet ble tatt i bruk, ble ikke navngitt, og MTA sa at de planla å implementere løsningen på ytterligere 24 ikke navngitte T-banestasjoner innen utgangen av 2023.
I en fersk rapport sa MTA at de tapte $690 millioner på grunn av billettsnytere i hele kollektivsystemet i 2022, hvorav $285 millioner på T-banen. Det er fint og bra å ha 10 000 kameraer på kollektivsystemet, men det skaper en overveldende oppgave for menneskelige operatører å overvåke. Det virker som den perfekte jobben for et AI-verktøy.
Men NYC er allerede en av de mest overvåkede byene i verden, og Amnesty International har uttrykt bekymring over de nesten 25 000 kameraene som brukes av NYPD sammen med ansiktsgjenkjenningsteknologi.
Bruken av AI-overvåkning i T-banen har forsterket disse personvernhensyn. Minton sier at bildene som tas av programvaren, bare lagres "i en begrenset periode", uten å si hvor lenge.
Albert Fox Cahn, administrerende direktør for Surveillance Technology Oversight Project (S.T.O.P.), sa at "AI ikke kan løse problemet med uoverkommelig transitt, men det kan skremme folk", og la til at "dette gir grunn til reell bekymring for hvordan MTA sporer New Yorkere og hvor dataene oppbevares."
MTAs prøvekjøring av AI-overvåkingen startet faktisk i mai i år, men ble først kjent i juli i en kunngjøring av S.T.O.P. Borgerrettighetsgruppen fikk til slutt tilgang til en redigert versjon av den tidligere hemmeligholdte kontrakten i henhold til offentlighetsloven. Det får deg til å lure på hvor utbredt den urapporterte bruken av AI-overvåking er i byene våre.
Kameraovervåkningens diskriminerende effekt er allerede et ømt punkt for personvernforkjempere. Kunstig intelligens har også fått sin del av kritikken for hvordan AI ser ut til å forsterke fordommer. Kombinasjonen av kunstig intelligens og kameraovervåking kan spare MTA for penger og kanskje til og med gjøre oss tryggere, men til hvilken pris?
