Es ist vielleicht verlockend, sich KI als eine empirische Technologie vorzustellen, die durch die Objektivit\u00e4t von Mathematik, Code und Berechnungen unterstrichen wird.\u00a0<\/span><\/p>\n Wir haben jedoch erkannt, dass die von KI-Systemen getroffenen Entscheidungen sehr subjektiv sind und auf den Daten beruhen, denen sie ausgesetzt sind - und Menschen entscheiden, wie sie diese Daten ausw\u00e4hlen und zusammenstellen.\u00a0<\/span><\/p>\n Darin liegt eine Herausforderung, denn die KI-Trainingsdaten verk\u00f6rpern oft die Vorurteile, die Voreingenommenheit und die Diskriminierung, die die Menschheit bek\u00e4mpft.<\/span><\/p>\n Selbst scheinbar subtile Formen unbewusster Voreingenommenheit k\u00f6nnen durch das Modelltraining verst\u00e4rkt werden und sich schlie\u00dflich in Form von falschen Gesichts\u00fcbereinstimmungen bei der Strafverfolgung, verweigerten Krediten, Fehldiagnosen von Krankheiten und beeintr\u00e4chtigten Sicherheitsmechanismen f\u00fcr selbstfahrende Fahrzeuge usw. \u00e4u\u00dfern.\u00a0<\/span><\/p>\n Die Versuche der Menschheit, Diskriminierung in der Gesellschaft zu verhindern, sind noch nicht abgeschlossen, aber die KI treibt die Entscheidungsfindung schon jetzt entscheidend voran.<\/span><\/p>\n K\u00f6nnen wir schnell genug arbeiten, um KI mit modernen Werten zu synchronisieren und einseitige, lebensver\u00e4ndernde Entscheidungen und Verhaltensweisen zu verhindern?\u00a0<\/span><\/p>\n Im letzten Jahrzehnt haben KI-Systeme bewiesen, dass sie gesellschaftliche Vorurteile widerspiegeln. <\/span><\/p>\n Diese Systeme sind nicht von Natur aus voreingenommen, sondern nehmen die Voreingenommenheit ihrer Sch\u00f6pfer und der Daten, auf denen sie trainiert wurden, auf.\u00a0<\/span><\/p>\n KI-Systeme lernen wie Menschen, indem sie sich ihnen aussetzen. Das menschliche Gehirn ist ein scheinbar unendlicher Index von Informationen - eine Bibliothek mit nahezu unbegrenzten Regalen, in denen wir Erfahrungen, Wissen und Erinnerungen speichern.\u00a0<\/span><\/p>\n Neurowissenschaftlich <\/span>Studien<\/span><\/a> zeigen, dass das Gehirn nicht wirklich eine \"maximale Kapazit\u00e4t\" hat und bis ins hohe Alter Informationen sortiert und speichert.\u00a0<\/span><\/p>\n Der progressive, iterative Lernprozess des Gehirns ist zwar alles andere als perfekt, aber er hilft uns, uns an neue kulturelle und gesellschaftliche Werte anzupassen - vom Wahlrecht f\u00fcr Frauen \u00fcber die Akzeptanz unterschiedlicher Identit\u00e4ten bis hin zur Abschaffung der Sklaverei und anderer Formen bewusster Vorurteile. <\/span><\/p>\n W<\/span>ir leben heute in einem Zeitalter, in dem KI-Tools anstelle des menschlichen Urteilsverm\u00f6gens f\u00fcr wichtige Entscheidungen eingesetzt werden.\u00a0<\/span><\/p>\n Viele Modelle des maschinellen Lernens (ML) lernen aus Trainingsdaten, die die Grundlage f\u00fcr ihre Entscheidungsfindung bilden, und k\u00f6nnen neue Informationen nicht so effizient aufnehmen wie das menschliche Gehirn. Daher k\u00f6nnen sie oft nicht die aktuellen, minutengenauen Entscheidungen treffen, die wir von ihnen erwarten.\u00a0<\/span><\/p>\n So werden beispielsweise KI-Modelle zur Identifizierung von Gesichts\u00fcbereinstimmungen f\u00fcr Strafverfolgungszwecke eingesetzt, <\/span>Analyse von Lebensl\u00e4ufen f\u00fcr Bewerbungen<\/span><\/a>, und treffen gesundheitsrelevante Entscheidungen im klinischen Umfeld.<\/span><\/p>\n Da die Gesellschaft die KI immer weiter in unseren Alltag einbindet, m\u00fcssen wir sicherstellen, dass sie f\u00fcr alle gleich und genau ist. <\/span><\/p>\n Dies ist derzeit nicht der Fall.\u00a0\u00a0<\/span><\/p>\n In der Praxis gibt es zahlreiche Beispiele f\u00fcr Vorurteile, Vorverurteilungen und Diskriminierung im Zusammenhang mit KI.\u00a0<\/span><\/p>\n In einigen F\u00e4llen sind die Auswirkungen von KI-Voreingenommenheit lebensver\u00e4ndernd, w\u00e4hrend sie in anderen F\u00e4llen im Hintergrund verbleiben und Entscheidungen subtil beeinflussen.\u00a0<\/span><\/p>\n Ein MIT-Trainingsdatensatz aus dem Jahr 2008 namens <\/span>Winzige Bilder<\/span><\/a> enthielt etwa 80.000.000 Bilder in rund 75.000 Kategorien.\u00a0<\/span><\/p>\n Urspr\u00fcnglich sollte es KI-Systemen das Erkennen von Personen und Objekten in Bildern beibringen und wurde zu einem beliebten Benchmarking-Datensatz f\u00fcr verschiedene Anwendungen im Bereich der Computer Vision (CV).\u00a0<\/span><\/p>\n A 2020 Analyse von The Register<\/a> festgestellt, dass viele <\/span>Tiny Images enthielt obsz\u00f6ne, rassistische und sexistische Aufschriften.\u00a0<\/span><\/p>\n Antonio Torralba vom MIT sagte, das Labor sei sich dieser anst\u00f6\u00dfigen Bezeichnungen nicht bewusst gewesen und erkl\u00e4rte gegen\u00fcber The Register: \"Es ist klar, dass wir sie manuell h\u00e4tten \u00fcberpr\u00fcfen m\u00fcssen.\" Das MIT ver\u00f6ffentlichte sp\u00e4ter eine Erkl\u00e4rung, in der es mitteilte, dass es den Datensatz aus dem Verkehr gezogen habe.<\/span><\/p>\n Dies ist nicht das einzige Mal, dass ein ehemaliger Benchmark-Datensatz mit Problemen behaftet ist. Der Datensatz \"Labeled Faces in the Wild\" (LFW), ein Datensatz mit Gesichtern von Prominenten, der h\u00e4ufig f\u00fcr Gesichtserkennungsaufgaben verwendet wird, besteht aus 77,5% m\u00e4nnlichen und 83,5% wei\u00dfh\u00e4utigen Personen.\u00a0<\/span><\/p>\n Viele dieser altgedienten Datens\u00e4tze fanden ihren Weg in moderne KI-Modelle, stammen aber aus einer \u00c4ra der KI-Entwicklung, in der der Schwerpunkt auf der Entwicklung von Systemen lag, die <\/span>einfach arbeiten <\/span><\/i>und nicht solche, die f\u00fcr den Einsatz in realen Szenarien geeignet sind.\u00a0<\/span><\/p>\n Ist ein KI-System erst einmal auf einen solchen Datensatz trainiert, hat es nicht unbedingt das gleiche Privileg wie das menschliche Gehirn, sich auf aktuelle Werte einzustellen. <\/span><\/p>\n Modelle k\u00f6nnen zwar iterativ aktualisiert werden, aber das ist ein langsamer und unvollkommener Prozess, der nicht mit dem Tempo der menschlichen Entwicklung mithalten kann.\u00a0<\/span><\/p>\n Im Jahr 2019 wird die <\/span>US-Regierung gefunden<\/span><\/a> dass leistungsstarke Gesichtserkennungssysteme Schwarze 5 bis 10 Mal h\u00e4ufiger falsch identifizieren als Wei\u00dfe.\u00a0<\/span><\/p>\n Es handelt sich dabei nicht nur um eine statistische Anomalie, sondern hat auch schwerwiegende Auswirkungen in der Praxis: von Google Fotos, die schwarze Menschen als Gorillas identifizieren, bis hin zu selbstfahrenden Autos, die dunkelh\u00e4utige Menschen nicht erkennen und in sie hineinfahren.\u00a0<\/span><\/p>\n Dar\u00fcber hinaus gab es eine Reihe unrechtm\u00e4\u00dfiger Verhaftungen und Inhaftierungen, die mit falschen Gesichts\u00fcbereinstimmungen zusammenhingen, vielleicht am h\u00e4ufigsten <\/span>Nijeer Parks'.<\/span><\/a> der f\u00e4lschlicherweise des Ladendiebstahls und des Stra\u00dfenverkehrsdelikts beschuldigt wurde, obwohl er 30 Meilen von dem Vorfall entfernt war. Parks verbrachte daraufhin 10 Tage im Gef\u00e4ngnis und musste Tausende von Gerichtskosten zahlen.\u00a0<\/span><\/p>\nVoreingenommenheit in der KI entr\u00e4tseln<\/span><\/h2>\n
Fallstudien zu KI-Voreingenommenheit<\/span><\/h2>\n
1. Die Verzerrung des MIT-Datensatzes<\/span><\/h3>\n
![\"Winzige](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/07\/statement-1024x281.png\")
2: Bilderkennung: Vorurteile gegen\u00fcber dunkelh\u00e4utigen Personen<\/span><\/h3>\n
![\"Nijeer](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/07\/facialmatchparks-1024x576.jpg\")