Die Londoner U-Bahn hat in einem einjährigen Versuch KI-Überwachungstechnologie eingesetzt.
Von Oktober 2022 bis September 2023 testete Transport for London (TfL) 11 verschiedene Algorithmen an der U-Bahn-Station Willesden Green, die sich im Nordwesten der Stadt befindet.
Ausführlichen Dokumenten zufolge, die von WIREDIm Rahmen der Studie wurden Tausende von Fahrgästen in ihren Bewegungen, ihrem Verhalten und ihrer Körpersprache beobachtet, um potenzielle kriminelle Aktivitäten und Sicherheitsrisiken zu erkennen.
Die KI-Software, die mit Live-Aufnahmen von Videoüberwachungsanlagen verknüpft ist (ein Teilbereich des maschinellen Lernens), wurde darauf trainiert, aggressives Verhalten, Waffen, Schwarzfahren und Unfälle zu erkennen, wie z. B. Personen, die auf die Gleise fallen könnten.
Die britische Polizei hat bereits früher mit der KI-Überwachung experimentiert und tut dies auch weiterhin bei einigen öffentlichen Veranstaltungen, wie etwa bei einer Beyonce-Konzert im letzten Jahr.
Allerdings, Es ist oft unwirksam waren, und Menschenrechtsgruppen haben die Technologie kritisiert und sie als lästigen Eingriff in die Privatsphäre und als Quelle für Vorurteile und Diskriminierung bezeichnet.
Die KI-Videotechnologie hat eine problematische Vergangenheit, mit zahlreiche Projekte auf der ganzen Welt, bei denen zu wenig geliefert wurde und manchmal werden dunkelhäutige Menschen mit Verbrechen in Verbindung gebracht, die sie nicht begangen haben.
Während des TfL-Versuchszeitraums wurden etwa 44.000 Warnmeldungen generiert, von denen etwa 19.000 direkt an das Personal weitergeleitet wurden, damit es eingreifen konnte.
Beamte nahmen an Tests teil, bei denen sie Waffen wie Macheten und Pistolen im Sichtfeld der Überwachungskamera schwangen (allerdings zu Zeiten, in denen der Bahnhof geschlossen war), um die KI besser zu trainieren.
Hier ist die vollständige Liste der Ergebnisse:
- Ausschreibungen insgesamt: Das KI-System hat über 44.000 Ausschreibungen vorgenommen.
- Echtzeit-Warnungen für das Bahnhofspersonal: 19 000 wurden in Echtzeit an das Bahnhofspersonal weitergeleitet, damit es sofort handeln kann.
- Warnungen vor Schwarzfahrern: Das KI-System generierte 26.000 Warnmeldungen im Zusammenhang mit Schwarzfahren.
- Ausschreibungen für Rollstühle: Es gab 59 Ausschreibungen, die Rollstuhlfahrer am Bahnhof betrafen, da es dort keine geeigneten Einrichtungen für Rollstuhlfahrer gibt.
- Sicherheitslinienwarnungen: Nahezu 2.200 Strafen wurden verhängt, weil Personen die gelben Sicherheitslinien auf den Bahnsteigen überschritten.
- Plattformrandwarnungen: Das System generierte 39 Warnmeldungen für Personen, die sich über die Kante des Bahnsteigs lehnten.
- Erweiterte Sitzbankwarnungen: Fast 2.000 Ausschreibungen betrafen Personen, die über einen längeren Zeitraum auf Bänken saßen, was auf verschiedene Probleme hinweisen könnte, darunter das Wohlbefinden der Fahrgäste oder Sicherheitsrisiken.
- Warnungen vor aggressivem Verhalten: Es gab 66 Warnmeldungen im Zusammenhang mit aggressivem Verhalten, obwohl das KI-System aufgrund unzureichender Trainingsdaten Schwierigkeiten hatte, solche Vorfälle zuverlässig zu erkennen.
Das KI-System schnitt jedoch in einigen Szenarien nicht gut ab, was zu fehlerhaften Ergebnissen führte, z. B. bei der Kennzeichnung von Kindern, die durch Fahrkartenschranken gehen, als potenzielle Schwarzfahrer.
Laut TfL besteht das Ziel darin, eine sicherere und effizientere U-Bahn zu schaffen, die sowohl die Öffentlichkeit als auch das Personal schützt.
KI-Überwachungstechnologie ist an sich nichts Schlimmes, wenn sie für die öffentliche Sicherheit eingesetzt wird, aber wenn die Technologie erst einmal da ist, ist es ein schwieriges Unterfangen, sie unter Kontrolle zu halten.
Es gibt bereits Hinweise auf KI-Missbrauch im öffentlichen Sektor des Vereinigten Königreichsund Skandale in anderen Ländern weisen darauf hin, dass es sich hierbei um eine gefährliche Situation handelt, wenn nicht mit äußerster Sorgfalt vorgegangen wird.
