Eine neue Welle von KI-gestützter Überwachung breitet sich in den USA und Großbritannien aus. Privatunternehmen und Behörden setzen KI-gestützte Kameras ein, um Menschenmengen zu analysieren, potenzielle Straftaten zu erkennen und sogar den emotionalen Zustand von Menschen im öffentlichen Raum zu überwachen.
Im Vereinigten Königreich hat die Eisenbahninfrastrukturbehörde Network Rail vor kurzem KI-Kameras in acht Bahnhöfen getestet, darunter in wichtigen Knotenpunkten wie den Londoner Bahnhöfen Waterloo und Euston sowie in Manchester Piccadilly.
Dokumente die von der Gruppe für bürgerliche Freiheiten erhalten wurden Big Brother Siehe enthüllen, dass die Kameras darauf abzielen, unbefugtes Betreten der Gleise, überfüllte Bahnsteige, "asoziales Verhalten" wie Skateboardfahren und Rauchen sowie potenziellen Fahrraddiebstahl zu erkennen.
Besonders besorgniserregend ist, dass das KI-System, das auf Amazons Rekognition-Software basiert, versuchte, Alter, Geschlecht und Emotionen wie Freude, Trauer und Wut zu analysieren, wenn sie virtuelle "Stolperdrähte" in der Nähe von Ticketschranken passierten.
⚠️We hat Dokumente aufgedeckt, aus denen hervorgeht, dass in acht Bahnhöfen Versuche mit AmazonKI-Überwachungssoftware mit ihren CCTV-Kameras kombiniert - wobei einige das Alter, das Geschlecht und die Emotionen der Passagiere analysieren
"Die Einführung und Normalisierung der KI-Überwachung in diesen öffentlichen Räumen, ohne viel... pic.twitter.com/dJLS75ZURH
- Big Brother Watch (@BigBrotherWatch) 17. Juni 2024
Im Bericht von Network Rail, der teilweise geschwärzt ist, heißt es: "An jedem Bahnhof gab es eine Kamera (in der Regel die Gateline-Kamera), die jede Sekunde einen Schnappschuss machte, wenn Personen den Stolperdraht überquerten, und zur Analyse an AWS Rekognition schickte.
Weiter heißt es: "Möglicherweise könnte die Metrik der Kundenemotionen verwendet werden, um die Zufriedenheit zu messen", und "Diese Daten könnten genutzt werden, um die Werbe- und Einzelhandelseinnahmen zu maximieren. Dies war jedoch schwer zu quantifizieren, da NR Properties nie erfolgreich einbezogen wurde.
Amazon Rekogniton, eine Plattform für maschinelles Lernen mit Hilfe von Computer Vision (CV) von Amazon, kann tatsächlich Emotionen erkennen. Allerdings handelte es sich dabei nur um einen Pilotversuch, und seine Wirksamkeit ist unklar.
In dem Bericht heißt es, dass bei der Verwendung von Kameras zur Zählung von Personen, die Bahnschranken passieren, "die Genauigkeit über die Schrankenlinien hinweg einheitlich schlecht war, mit einer durchschnittlichen Genauigkeit von etwa 50% bis 60% im Vergleich zur manuellen Zählung", was sich jedoch verbessern dürfte.
Der Einsatz der Gesichtserkennungstechnologie durch die Strafverfolgungsbehörden hat ebenfalls Bedenken ausgelöst. Vor nicht allzu langer Zeit hat die Londoner Metropolitan Police Live-Gesichtserkennungskameras verwendet um 17 Personen in den Stadtteilen Croydon und Tooting zu identifizieren und festzunehmen.
Die Technologie vergleicht Live-Kameraübertragungen mit einer Überwachungsliste von Personen mit ausstehenden Haftbefehlen als Teil der "präzisen Polizeiarbeit".
Im Februar nutzte die Polizei das System für 42 Verhaftungen, wobei unklar ist, wie viele davon zu formellen Anklagen führten.
"Die Einführung und Normalisierung der KI-Überwachung in diesen öffentlichen Räumen ohne große Konsultationen und Gespräche ist ein ziemlich beunruhigender Schritt", kommentierte Jake Hurfurt, Forschungsleiter bei Big Brother Watch.
Ihre Gefühle in einer Datenbank
Kritiker haben vehement argumentiert, dass die Gesichtserkennung die bürgerlichen Freiheiten bedroht.
Parlamentsmitglieder im Vereinigten Königreich forderte die Polizei auf, die Situation zu überdenken wie sie die Technologie einsetzen, nachdem sie vorgeschlagen hatten, auf eine Datenbank mit 45 Millionen Passfotos zuzugreifen, um diese Überwachungsmodelle besser zu trainieren.
Experten stellen auch die Genauigkeit und die Rechtsgrundlage der Gesichtserkennung in Frage, wobei Big Brother Uhr streiten dass die Mehrheit (85%+) der polizeilichen Gesichtserkennungsübereinstimmungen im Vereinigten Königreich falsche Identifizierungen sind.
Beamte der Met Police versuchten, Befürchtungen hinsichtlich des Datenschutzes zu zerstreuen, indem sie erklärten, dass nicht übereinstimmende Bilder schnell gelöscht werden und dass das Gesichtserkennungssystem von unabhängiger Seite geprüft wurde.
Wenn der Missbrauch dieser KI-Systeme jedoch tatsächlich Auswirkungen auf das Leben der Menschen hat, ist das Gerede billig. Programme zur vorausschauenden Polizeiarbeit in den US haben in der Regel auch ihre Ziele verfehlt und Kollateralschäden in Form von polizeilichen Schikanen und unrechtmäßigen Inhaftierungen verursacht.
Bedenken hinsichtlich der Voreingenommenheit und Ungenauigkeit von Gesichtserkennungssystemen, insbesondere bei farbigen Personen, waren ein wichtiger Streitpunkt.
Studien haben gezeigt die Technologie kann bei dunkelhäutigen Gesichtern, insbesondere bei schwarzen Frauen, deutlich ungenauer sein.
Die politischen Entscheidungsträger werden sich mit schwierigen Fragen zur Transparenz, Rechenschaftspflicht und Regulierung dieser mächtigen Instrumente auseinandersetzen müssen.
Eine solide öffentliche Debatte und ein klarer rechtlicher Rahmen werden entscheidend dafür sein, dass die Vorteile der KI für die öffentliche Sicherheit nicht durch die Risiken für die Rechte des Einzelnen und die demokratischen Werte aufgewogen werden.
Angesichts des rasanten technologischen Fortschritts könnte die Zeit für diese Abrechnung kurz sein.
