Il Dipartimento di Polizia di Detroit ha patteggiato una causa intentata da Robert Julian-Borchak Williams, un uomo di colore che è stato arrestato ingiustamente nel gennaio 2020 sulla base di un riconoscimento facciale errato.
Come parte del insediamentoIl Dipartimento di polizia di Detroit ha accettato di implementare nuove politiche che regolano l'uso della tecnologia di riconoscimento facciale.
Essi comprendono:
- Vietare gli arresti basati esclusivamente su corrispondenze con il riconoscimento facciale
- Richiedere ulteriori prove, oltre al riconoscimento facciale, prima di includere un sospetto in un confronto fotografico.
- Obbligo di formazione per gli agenti sui limiti e i rischi della tecnologia di riconoscimento facciale.
- Conduzione di un audit di tutti i casi dal 2017 in cui il riconoscimento facciale è stato utilizzato per ottenere un mandato d'arresto.
L'incidente è iniziato nell'ottobre 2018 quando un uomo ha rubato cinque orologi da un negozio Shinola di Detroit.
Gli investigatori hanno utilizzato un fermo immagine dal video di sorveglianza del negozio. L'hanno sottoposta al sistema di riconoscimento facciale del Dipartimento di Polizia di Detroit, facendo corrispondere erroneamente il sospetto alla foto della patente di Williams.
Nonostante le chiare differenze tra Williams e il sospetto, gli investigatori hanno proceduto all'arresto.
Durante l'interrogatorio, Williams ha tenuto l'immagine di sorveglianza vicino al suo viso, chiedendo agli investigatori: "Pensate che tutti gli uomini di colore si assomiglino?".
Alla fine i detective hanno riconosciuto l'errore e uno ha ammesso: "Credo che il computer si sia sbagliato".
Williams ha trascorso circa 30 ore in carcere e da allora ha lottato con il trauma emotivo di questa esperienza.
"Mia moglie e le mie figlie hanno dovuto assistere impotenti al mio arresto per un crimine che non avevo commesso e, quando sono tornato a casa dalla prigione, la mia bambina aveva già perso il suo primo dentino e la mia figlia maggiore non riusciva nemmeno a guardare la mia foto. Ancora oggi, a distanza di anni, li fa piangere quando ci pensano", ha detto Williams.
"La parte più spaventosa è che quello che è successo a me sarebbe potuto accadere a chiunque".
Un primo passo fondamentale
Il American Civil Liberties Union (ACLU), che rappresenta Williams nella causa, ha salutato l'accordo come un passo importante verso una maggiore responsabilità e supervisione della tecnologia di riconoscimento facciale.
L'organizzazione ha spiegato che le nuove politiche sono tra le più severe della nazione e dovrebbero servire da modello per altre agenzie di polizia.
L'accordo include anche un pagamento di $1.000 a Williams, che ha trascorso 30 ore in carcere e ha sofferto di stress emotivo a causa dell'arresto illegale.
Studi hanno costantemente dimostrato che questi sistemi hanno maggiori probabilità di identificare erroneamente le persone di colore, in particolare i neri, rispetto ai bianchi.
Questa distorsione può essere attribuita a fattori quali la mancanza di diversità nei set di dati utilizzati per addestrare gli algoritmi di riconoscimento facciale e i limiti intrinseci della tecnologia.
Le attività di polizia basate sull'intelligenza artificiale sono in aumento, compresa la sorveglianza dell'intelligenza artificiale negli spazi pubblici, come l'impiego di telecamere in tempo reale. telecamere per il riconoscimento facciale della polizia britannica.
L'accordo raggiunto dal Dipartimento di Polizia di Detroit nell'ambito della Robert Julian-Borchak Williams caso è solo un primo passo.
Una regolamentazione e una supervisione complete della tecnologia di riconoscimento facciale a livello federale sono necessarie per garantire che questi sistemi siano utilizzati in modo responsabile, soprattutto quando il rischio di distorsione è massimo.
