Le métro londonien a utilisé la technologie de surveillance par IA dans le cadre d'un essai d'une durée d'un an.
D'octobre 2022 à septembre 2023, Transport for London (TfL) a testé 11 algorithmes distincts à la station de métro Willesden Green, située dans le secteur nord-ouest de la ville.
Selon des documents détaillés obtenus par WIREDLe procès a consisté à surveiller les mouvements, les comportements et le langage corporel de milliers de passagers afin d'identifier les activités criminelles potentielles et les risques pour la sécurité.
Le logiciel d'IA, associé à des images de vidéosurveillance en direct (qui est la branche "vision par ordinateur" de l'apprentissage automatique), a été entraîné à identifier les comportements agressifs, les armes, les fraudes et les accidents, tels que la chute potentielle de personnes sur les voies ferrées.
La police britannique a déjà expérimenté la surveillance par IA et continue de le faire lors de certains événements publics, comme ce fut le cas lors d'une conférence de presse de l'Union européenne. Concert de Beyonce l'année dernière.
Cependant, c'est ont souvent été inefficaces, et les groupes de défense des droits de l'homme ont critiqué cette technologie, la qualifiant d'intrusion gênante dans la vie privée et de source de préjugés et de discrimination.
La technologie vidéo de l'IA a une histoire problématique, avec de nombreux projets dans le monde entier avec des livraisons insuffisantes tout en associant parfois les personnes à la peau plus foncée à des crimes qu'elles n'ont pas commis.
Tout au long de la période d'essai de TfL, quelque 44 000 alertes ont été générées, dont environ 19 000 ont été transmises directement au personnel pour qu'il intervienne.
Les agents ont participé aux tests en brandissant des armes telles que des machettes et des fusils dans le champ de vision du système de vidéosurveillance (bien que pendant les heures de fermeture de la station), afin de mieux entraîner l'IA.
Voici la liste complète des résultats :
- Total des alertes: Plus de 44 000 alertes ont été émises par le système d'IA.
- Alertes en temps réel au personnel de la station: 19 000 ont été transmises en temps réel au personnel de la station pour une action immédiate.
- Alertes à l'évasion tarifaire: Le système d'IA a généré 26 000 alertes liées à des activités de fraude tarifaire.
- Alertes pour les fauteuils roulants: Il y a eu 59 alertes concernant des utilisateurs de fauteuils roulants dans la gare, qui ne dispose pas d'installations adéquates pour l'accès des fauteuils roulants.
- Alertes sur les lignes de sécurité: Près de 2 200 ont été délivrés pour des personnes ayant franchi les lignes de sécurité jaunes sur les quais.
- Alertes à la périphérie de la plate-forme: Le système a généré 39 alertes pour des personnes se penchant sur le bord des quais de gare.
- Alertes de la banquette prolongée: Près de 2 000 alertes concernaient des personnes assises sur des bancs pendant des périodes prolongées, ce qui pouvait indiquer divers problèmes, notamment le bien-être des passagers ou des risques pour la sécurité.
- Alertes sur les comportements agressifs: Il y a eu 66 alertes liées à un comportement agressif, bien que le système d'IA ait eu du mal à détecter ces incidents de manière fiable en raison de l'insuffisance des données d'entraînement.
Cependant, le système d'IA n'a pas donné de bons résultats dans certains scénarios, conduisant à des résultats erronés, par exemple en signalant que des enfants passant à travers les barrières de tickets étaient susceptibles de frauder.
Selon TfL, l'objectif final est de favoriser un tube plus sûr et plus efficace qui protège à la fois le public et le personnel.
La technologie de surveillance par IA n'est pas intrinsèquement mauvaise lorsqu'elle est utilisée pour la sécurité publique, mais une fois qu'elle est en place, il est difficile de la garder sous contrôle.
Il existe déjà des preuves de L'utilisation abusive de l'IA dans le secteur public britanniqueet scandales dans d'autres pays indiquent qu'il s'agit d'une pente glissante lorsqu'elle n'est pas traitée avec la plus grande prudence.
