El Departamento de Policía de Detroit ha resuelto una demanda presentada por Robert Julian-Borchak Williamsun hombre negro que fue detenido injustamente en enero de 2020 basándose en un reconocimiento facial erróneo.
En el marco de la liquidaciónEl Departamento de Policía de Detroit ha acordado aplicar nuevas políticas que regulen el uso de la tecnología de reconocimiento facial.
Entre ellas figuran:
- Prohibición de las detenciones basadas únicamente en coincidencias de reconocimiento facial
- Exigir pruebas adicionales al reconocimiento facial antes de incluir a un sospechoso en una rueda de reconocimiento fotográfico
- Formación obligatoria de los agentes sobre las limitaciones y los riesgos de la tecnología de reconocimiento facial
- Realización de una auditoría de todos los casos desde 2017 en los que se utilizó el reconocimiento facial para obtener una orden de detención
El incidente comenzó en octubre de 2018 cuando un hombre robó cinco relojes de una tienda Shinola en Detroit.
Los investigadores utilizaron una imagen fija del vídeo de vigilancia de la tienda. La pasaron por el sistema de reconocimiento facial del Departamento de Policía de Detroit y el sospechoso coincidió erróneamente con la foto del carné de conducir de Williams.
A pesar de las claras diferencias entre Williams y el sospechoso, los investigadores procedieron a la detención.
Durante el interrogatorio, Williams sostuvo la imagen de vigilancia junto a su cara y preguntó a los detectives: "¿Creen que todos los hombres negros se parecen?".
Los detectives acabaron reconociendo el error, y uno de ellos admitió: "Supongo que el ordenador se equivocó".
Williams pasó unas 30 horas en la cárcel y desde entonces ha luchado contra el trauma emocional de la experiencia.
"Mi mujer y mis hijas pequeñas tuvieron que ver impotentes cómo me detenían por un delito que no había cometido y, para cuando llegué a casa de la cárcel, ya se me había caído el primer diente a la pequeña y la mayor ni siquiera soportaba mirar mi foto. Incluso ahora, años después, todavía se les saltan las lágrimas cuando piensan en ello", dijo Williams.
"Lo más aterrador es que lo que me pasó a mí podría haberle pasado a cualquiera".
Un primer paso vital
En American Civil Liberties Union (ACLU)que representa a Williams en la demanda, celebró el acuerdo como un paso notable hacia una mayor responsabilidad y supervisión de la tecnología de reconocimiento facial.
La organización explicó que las nuevas políticas se encuentran entre las más estrictas del país y deben servir de modelo para otros organismos encargados de hacer cumplir la ley.
El acuerdo también incluye un pago de $1.000 a Williams, que pasó 30 horas en la cárcel y sufrió angustia emocional como consecuencia de la detención ilegal.
Estudios han demostrado sistemáticamente que estos sistemas tienen más probabilidades de identificar erróneamente a las personas de color, en particular a los individuos negros, que a los blancos.
Este sesgo puede atribuirse a factores como la falta de diversidad en los conjuntos de datos utilizados para entrenar los algoritmos de reconocimiento facial y las limitaciones inherentes a la tecnología.
La actuación policial basada en la IA está aumentando, incluida la vigilancia con IA en espacios públicos, como el despliegue de cámaras en directo. cámaras de reconocimiento facial de la policía británica.
El acuerdo alcanzado por el Departamento de Policía de Detroit en el Robert Julian-Borchak Williams caso es sólo un primer paso.
Es necesaria una regulación y supervisión exhaustivas de la tecnología de reconocimiento facial a nivel federal para garantizar que estos sistemas se utilizan de forma responsable, especialmente cuando el riesgo de sesgo es máximo.
