O Departamento de Polícia de Detroit resolveu uma ação judicial intentada por Robert Julian-Borchak Williams, um homem negro que foi injustamente detido em janeiro de 2020 com base numa correspondência de reconhecimento facial incorrecta.
No âmbito do liquidaçãoO Departamento de Polícia de Detroit concordou em implementar novas políticas que regem a utilização da tecnologia de reconhecimento facial.
Estes incluem:
- Proibição de detenções baseadas unicamente em correspondências de reconhecimento facial
- Exigir provas adicionais para além do reconhecimento facial antes de incluir um suspeito num alinhamento fotográfico
- Obrigar a formação dos agentes sobre as limitações e os riscos da tecnologia de reconhecimento facial
- Realização de uma auditoria de todos os casos desde 2017 em que o reconhecimento facial foi utilizado para obter um mandado de detenção
O incidente começou em outubro de 2018, quando um homem furtou cinco relógios de uma loja Shinola em Detroit.
Os investigadores usaram uma imagem fixa do vídeo de vigilância da loja. Passaram-na pelo sistema de reconhecimento facial do Departamento de Polícia de Detroit, fazendo coincidir incorretamente o suspeito com a fotografia da carta de condução de Williams.
Apesar das claras diferenças entre Williams e o suspeito, os investigadores procederam à detenção.
Durante o interrogatório, Williams segurou a imagem de vigilância junto ao seu rosto, perguntando aos detectives: "Acham que todos os homens negros são iguais?"
Os detectives acabaram por reconhecer o erro, tendo um deles admitido: "Acho que o computador se enganou".
Williams passou cerca de 30 horas na prisão e desde então tem-se debatido com o trauma emocional da experiência.
"A minha mulher e as minhas filhas mais novas tiveram de assistir impotentes à minha detenção por um crime que não cometi e, quando cheguei a casa, já tinha perdido o primeiro dente da minha filha mais nova e a minha filha mais velha nem sequer conseguia olhar para a minha fotografia. Mesmo agora, anos mais tarde, ainda os leva às lágrimas quando pensam nisso", disse Williams.
"A parte mais assustadora é que o que me aconteceu podia ter acontecido a qualquer pessoa."
Um primeiro passo fundamental
O American Civil Liberties Union (ACLU)A empresa de advogados, que representa a Williams na ação judicial, saudou o acordo como um passo digno de nota no sentido de uma maior responsabilização e supervisão da tecnologia de reconhecimento facial.
A organização explicou que as novas políticas estão entre as mais rigorosas do país e devem servir de modelo para outras agências de aplicação da lei.
O acordo de indemnização também inclui um pagamento de $1.000 a Williams, que passou 30 horas na prisão e sofreu perturbações emocionais em consequência da detenção ilegal.
Estudos mostraram consistentemente que estes sistemas têm mais probabilidades de identificar incorretamente as pessoas de cor, em particular os indivíduos de raça negra, do que os brancos.
Este enviesamento pode ser atribuído a factores como a falta de diversidade nos conjuntos de dados utilizados para treinar os algoritmos de reconhecimento facial e as limitações inerentes à tecnologia.
O policiamento baseado em IA está a aumentar, incluindo a vigilância por IA em espaços públicos, como a implantação de sistemas de vigilância em direto câmaras de reconhecimento facial pela polícia do Reino Unido.
O acordo alcançado pelo Departamento de Polícia de Detroit no processo Robert Julian-Borchak Williams O caso é apenas um primeiro passo.
É necessária uma regulamentação abrangente e uma supervisão da tecnologia de reconhecimento facial a nível federal para garantir que estes sistemas são utilizados de forma responsável, especialmente quando o risco de parcialidade é maior.
