Die Polizeibehörde von Detroit hat einen Rechtsstreit beigelegt, der von Robert Julian-Borchak Williamsein schwarzer Mann, der im Januar 2020 aufgrund einer fehlerhaften Gesichtserkennung zu Unrecht verhaftet wurde.
Als Teil der SiedlungDas Detroit Police Department hat sich bereit erklärt, neue Richtlinien für den Einsatz der Gesichtserkennungstechnologie einzuführen.
Sie umfassen:
- Verbot von Verhaftungen, die ausschließlich auf Gesichtserkennungsübereinstimmungen beruhen
- Erfordernis zusätzlicher Beweise, die über die Gesichtserkennung hinausgehen, bevor ein Verdächtiger in eine Fotoaufstellung aufgenommen wird
- Verpflichtung zur Schulung von Beamten über die Grenzen und Risiken der Gesichtserkennungstechnologie
- Durchführung einer Prüfung aller Fälle seit 2017, in denen die Gesichtserkennung zur Erlangung eines Haftbefehls verwendet wurde
Der Vorfall begann im Oktober 2018, als ein Mann fünf Uhren aus einem Shinola-Geschäft in Detroit stahl.
Die Ermittler verwendeten ein Standbild aus dem Überwachungsvideo des Geschäfts. Sie ließen es durch das Gesichtserkennungssystem des Detroit Police Department laufen, das den Verdächtigen fälschlicherweise mit dem Führerscheinfoto von Williams verglich.
Trotz der deutlichen Unterschiede zwischen Williams und den Verdächtigen zu finden, nahmen die Ermittler die Verhaftung vor.
Während des Verhörs hielt Williams das Überwachungsbild neben sein Gesicht und fragte die Polizisten: "Glauben Sie, dass alle schwarzen Männer gleich aussehen?"
Die Polizisten räumten den Fehler schließlich ein, wobei einer zugab: "Ich schätze, der Computer hat sich geirrt."
Williams verbrachte rund 30 Stunden im Gefängnis und hat seitdem mit dem emotionalen Trauma dieser Erfahrung zu kämpfen.
"Meine Frau und meine kleinen Töchter mussten hilflos mit ansehen, wie ich für ein Verbrechen verhaftet wurde, das ich nicht begangen hatte, und als ich aus dem Gefängnis nach Hause kam, hatte ich bereits verpasst, dass meine Jüngste ihren ersten Zahn verlor, und meine Älteste konnte es nicht einmal ertragen, mein Bild zu sehen. Selbst jetzt, Jahre später, rührt es sie noch zu Tränen, wenn sie daran denken", sagte Williams.
"Das Schlimmste ist, dass das, was mir passiert ist, jedem hätte passieren können.
Ein wichtiger erster Schritt
Die American Civil Liberties Union (ACLU)Der Anwalt von Williams, der die Klage vertrat, begrüßte die Einigung als einen bemerkenswerten Schritt hin zu mehr Verantwortlichkeit und Kontrolle bei der Gesichtserkennungstechnologie.
Die Organisation erklärte, dass die neuen Richtlinien zu den strengsten im ganzen Land gehören und anderen Strafverfolgungsbehörden als Vorbild dienen sollten.
Der Vergleich umfasst auch eine Zahlung in Höhe von $1.000 an Williams, der 30 Stunden im Gefängnis verbrachte und infolge der unrechtmäßigen Verhaftung seelische Qualen erlitt.
Studien haben immer wieder gezeigt, dass diese Systeme farbige Menschen, insbesondere Schwarze, eher falsch identifizieren als weiße Menschen.
Diese Verzerrung lässt sich auf Faktoren wie die mangelnde Vielfalt der Datensätze, die zum Trainieren von Gesichtserkennungsalgorithmen verwendet werden, und die der Technologie innewohnenden Grenzen zurückführen.
Die KI-gestützte Polizeiarbeit nimmt zu, einschließlich der KI-Überwachung im öffentlichen Raum, z. B. durch den Einsatz von Live Gesichtserkennungskameras bei der britischen Polizei.
Die Einigung, die das Detroit Police Department in dem Fall Robert Julian-Borchak Williams Fall ist nur ein erster Schritt.
Eine umfassende Regulierung und Überwachung der Gesichtserkennungstechnologie auf Bundesebene ist notwendig, um sicherzustellen, dass diese Systeme verantwortungsvoll eingesetzt werden, insbesondere wenn die Gefahr der Voreingenommenheit am größten ist.
