Le département de la police de Détroit a réglé une action en justice intentée par Robert Julian-Borchak Williamsun homme noir qui a été arrêté à tort en janvier 2020 sur la base d'une reconnaissance faciale erronée.
Dans le cadre de la règlementLe département de la police de Détroit a accepté de mettre en œuvre de nouvelles politiques régissant l'utilisation de la technologie de reconnaissance faciale.
Il s'agit notamment de
- Interdiction des arrestations fondées uniquement sur la reconnaissance faciale
- Exiger des preuves supplémentaires, au-delà de la reconnaissance faciale, avant d'inclure un suspect dans une séance d'identification photographique
- Obligation de former les agents aux limites et aux risques de la technologie de reconnaissance faciale
- Réalisation d'un audit de tous les cas depuis 2017 où la reconnaissance faciale a été utilisée pour obtenir un mandat d'arrêt.
L'incident a commencé en octobre 2018 lorsqu'un homme a volé cinq montres dans un magasin Shinola à Détroit.
Les enquêteurs ont utilisé une image fixe de la vidéo de surveillance du magasin. Ils l'ont soumise au système de reconnaissance faciale de la police de Détroit et ont fait correspondre le suspect à la photo du permis de conduire de Williams.
Malgré les différences évidentes entre les Williams et le suspect, les enquêteurs ont procédé à l'arrestation.
Au cours de l'interrogatoire, Williams a tenu l'image de surveillance à côté de son visage et a demandé aux inspecteurs : "Vous pensez que tous les hommes noirs se ressemblent ?".
Les inspecteurs ont fini par reconnaître l'erreur, l'un d'entre eux admettant : "Je suppose que l'ordinateur s'est trompé".
M. Williams a passé une trentaine d'heures en prison et lutte depuis lors contre le traumatisme émotionnel causé par cette expérience.
"Ma femme et mes filles ont dû assister, impuissantes, à mon arrestation pour un crime que je n'avais pas commis et, lorsque je suis rentré de prison, ma plus jeune n'avait pas encore perdu sa première dent et mon aînée ne supportait même pas de regarder ma photo. Même aujourd'hui, des années plus tard, ils pleurent encore lorsqu'ils y pensent", a déclaré Mme Williams.
"Le plus effrayant, c'est que ce qui m'est arrivé aurait pu arriver à n'importe qui.
Une première étape essentielle
Les American Civil Liberties Union (ACLU)qui représentait Williams dans le procès, a salué le règlement comme une étape importante vers une plus grande responsabilité et un meilleur contrôle de la technologie de reconnaissance faciale.
L'organisation a expliqué que les nouvelles politiques sont parmi les plus strictes du pays et qu'elles devraient servir de modèle aux autres organismes chargés de l'application de la loi.
Le règlement comprend également un paiement de $1 000 à Williams, qui a passé 30 heures en prison et a souffert de détresse émotionnelle à la suite de l'arrestation injustifiée.
Études ont régulièrement montré que ces systèmes sont plus susceptibles de mal identifier les personnes de couleur, en particulier les Noirs, que les Blancs.
Ce biais peut être attribué à des facteurs tels que le manque de diversité des ensembles de données utilisés pour former les algorithmes de reconnaissance faciale et les limites inhérentes à la technologie.
La police alimentée par l'IA se développe, y compris la surveillance par l'IA dans les espaces publics, telle que le déploiement de caméras de surveillance en direct. Caméras de reconnaissance faciale par la police britannique.
Le règlement conclu par le service de police de Détroit dans l'affaire du Robert Julian-Borchak Williams n'est qu'une première étape.
Une réglementation et un contrôle complets de la technologie de reconnaissance faciale au niveau fédéral sont nécessaires pour garantir que ces systèmes sont utilisés de manière responsable, en particulier lorsque le risque de partialité est le plus élevé.
