La Metropolitan Transit Authority (MTA) a discrètement mis en place un système de surveillance par IA dans sept stations de métro de New York afin de contrôler les fraudeurs.
La solution repose sur un logiciel alimenté par l'IA et conçu par une société espagnole de logiciels appelée AWAAIT. La MTA dispose d'environ 10 000 caméras de surveillance dans son réseau de transport, et le logiciel s'y intègre pour repérer les personnes qui sautent les tourniquets.
Le logiciel est capable de détecter les fraudeurs et d'envoyer leurs photos sur les smartphones des agents de gare. La MTA a indiqué que le système de surveillance ne signale pas les fraudeurs à la police de New York, mais n'a pas voulu dire si cette politique allait changer à l'avenir.
Le directeur de la communication de la MTA, Tim Minton, a déclaré que la MTA "l'utilisait essentiellement comme un outil de comptage. L'objectif est de déterminer combien de personnes se soustraient au tarif et comment elles le font".
Les sept stations où le système de surveillance par IA a été déployé n'ont pas été nommées et la MTA a déclaré qu'elle prévoyait de mettre en œuvre la solution dans environ 24 autres stations de métro non nommées avant la fin de l'année 2023.
Dans un rapport récent, la MTA a déclaré avoir perdu $690 millions d'euros à cause des fraudeurs dans l'ensemble de son système de transport en commun en 2022, les fraudeurs du métro représentant $285 millions d'euros de ce montant. C'est bien beau d'avoir 10 000 caméras braquées sur le système de transport en commun, mais cela crée une tâche écrasante pour les opérateurs humains chargés de la surveillance. Cela semble être la tâche idéale pour un outil d'intelligence artificielle.
Mais la ville de New York est déjà l'une des villes les plus surveillées au monde. Amnesty International a exprimé son inquiétude sur les quelque 25 000 caméras utilisées par la police de New York, ainsi que sur la technologie de reconnaissance faciale.
L'utilisation de l'IA dans le métro a accentué ces problèmes. les préoccupations en matière de protection de la vie privée. Minton affirme que les images capturées par le logiciel ne sont stockées que "pour une période limitée", sans en préciser la durée.
Le directeur exécutif du Surveillance Technology Oversight Project (S.T.O.P.), Albert Fox Cahn, a déclaré que "l'IA ne peut pas résoudre le problème de l'inabordabilité des transports en commun, mais elle peut effrayer les gens" et a ajouté que "cela soulève de réelles inquiétudes sur la façon dont la MTA suit les New-Yorkais et sur l'endroit où ces données sont conservées".
L'essai de l'IA par la MTA a commencé en mai de cette année, mais n'a été révélé qu'en juillet dans un communiqué de presse de la MTA. annonce de S.T.O.P. Le groupe de défense des droits civiques a finalement pu obtenir une version expurgée du contrat précédemment passé sous silence en vertu de la loi sur la liberté de l'information. On peut se demander à quel point l'utilisation non signalée de la surveillance par IA est répandue dans nos villes.
L'impact discriminatoire de la surveillance par caméra est déjà un point sensible pour les défenseurs de la vie privée. L'intelligence artificielle a également fait l'objet de nombreuses critiques quant à la manière dont elle semble renforcer les préjugés. La combinaison de l'intelligence artificielle et de la surveillance par caméra peut permettre à la MTA d'économiser de l'argent et même d'améliorer notre sécurité, mais à quel prix ?
