De Metropolitan Transit Authority (MTA) heeft in stilte AI-bewaking uitgerold op 7 metrostations in New York City om tariefontduikers in de gaten te houden.
De oplossing maakt gebruik van AI-software die is ontworpen door het Spaanse softwarebedrijf AWAAIT. De MTA heeft ongeveer 10.000 bewakingscamera's in het hele transportsysteem en de software integreert met deze camera's om tourniquets te detecteren.
De software kan tariefontduikers detecteren en hun foto's naar de smartphones van stationsmedewerkers sturen. De MTA zei dat het bewakingssysteem tariefontduikers niet rapporteert aan de NYC politie, maar wilde niet zeggen of dit beleid in de toekomst zou veranderen.
Communicatiedirecteur Tim Minton van de MTA zei dat de MTA "het in wezen gebruikt als een telinstrument. Het doel is om te bepalen hoeveel mensen het tarief ontduiken en hoe ze dat doen."
De 7 stations waar het AI-bewakingssysteem werd ingezet, werden niet bij naam genoemd en de MTA zei dat ze van plan waren om de oplossing voor het einde van 2023 in nog ongeveer 24 naamloze metrostations te implementeren.
In een recent rapport zei de MTA dat er in 2022 in het hele vervoersysteem $690 miljoen verloren ging aan tariefontduikers, waarvan $285 miljoen aan tariefontduikers in de metro. Het is prima om 10.000 camera's op het doorvoersysteem te hebben, maar het creëert een overweldigende taak voor menselijke operators om toezicht te houden. Het lijkt de perfecte taak voor een AI-tool.
Maar NYC is al een van de meest bewaakte steden ter wereld en Amnesty International heeft zijn bezorgdheid geuit over de bijna 25.000 camera's die de NYPD gebruikt, samen met gezichtsherkenningstechnologie.
Het gebruik van AI-surveillance in de metro heeft deze problemen alleen maar erger gemaakt. privacybelangen. Minton zegt dat de beelden die door de software worden vastgelegd slechts "voor een beperkte periode" worden opgeslagen, zonder te zeggen hoe lang dat was.
Albert Fox Cahn, uitvoerend directeur van het Surveillance Technology Oversight Project (S.T.O.P.), zei: "AI kan de onbetaalbaarheid van het vervoer niet oplossen, maar het kan mensen wel bang maken." en voegde eraan toe dat "dit echte zorgen baart over hoe de MTA New Yorkers volgt en waar die gegevens worden bewaard."
Het proefdraaien van de AI-bewaking door de MTA begon eigenlijk in mei van dit jaar, maar kwam pas in juli aan het licht in een aankondiging door S.T.O.P. De burgerrechtengroep was in staat om eindelijk een bewerkte versie van het niet eerder gerapporteerde contract te verkrijgen via de wet op vrijheid van informatie. Je vraagt je af hoe wijdverspreid het niet-gerapporteerde gebruik van AI-surveillance in onze steden is.
De discriminerende impact van cameratoezicht is al een teer punt voor privacyvoorvechters. Kunstmatige intelligentie heeft ook zijn deel van kritiek gehad over hoe AI vooroordelen lijkt te versterken. Het combineren van AI met cameratoezicht kan de MTA geld besparen en het kan ons zelfs veiliger maken, maar tegen welke prijs?
