{"id":1871,"date":"2023-06-18T22:43:50","date_gmt":"2023-06-18T22:43:50","guid":{"rendered":"https:\/\/dailyai.com\/?p=1871"},"modified":"2024-03-28T00:48:00","modified_gmt":"2024-03-28T00:48:00","slug":"what-happens-when-ai-starts-consuming-its-own-output","status":"publish","type":"post","link":"https:\/\/dailyai.com\/de\/2023\/06\/what-happens-when-ai-starts-consuming-its-own-output\/","title":{"rendered":"Was passiert, wenn KI anf\u00e4ngt, ihren eigenen Output zu konsumieren?"},"content":{"rendered":"

Daten sind das Lebenselixier der KI, aber sie sind keine unendliche Ressource. K\u00f6nnen der Menschheit die Daten ausgehen? Was passiert, wenn dies der Fall ist?<\/strong><\/p>\n

Komplexe KI-Modelle erfordern gro\u00dfe Mengen an Trainingsdaten. F\u00fcr das Training eines gro\u00dfen Sprachmodells (LLM) wie ChatGPT werden zum Beispiel etwa 10 Billionen W\u00f6rter ben\u00f6tigt.\u00a0<\/span><\/p>\n

Einige Experten sind der Ansicht, dass das Angebot an hochwertigen Daten schwindet. Eine Studie von Forschern mehrerer Universit\u00e4ten aus dem Jahr 2022 zum Beispiel erkl\u00e4rte<\/a>, <\/span>\"Unsere Analyse deutet darauf hin, dass der Bestand an hochwertigen Sprachdaten bald ersch\u00f6pft sein wird, wahrscheinlich vor 2026... Unsere Arbeit deutet darauf hin, dass sich der aktuelle Trend zu immer gr\u00f6\u00dferen ML-Modellen, die auf riesigen Datens\u00e4tzen beruhen, verlangsamen k\u00f6nnte, wenn die Dateneffizienz nicht drastisch verbessert wird oder neue Datenquellen verf\u00fcgbar werden.\"\u00a0<\/span><\/p>\n

Die Generierung synthetischer Daten bietet zwar eine L\u00f6sung, kann aber in der Regel nicht die Tiefe, Nuancierung und Varianz echter Daten erfassen.\u00a0<\/span><\/p>\n

Um die Situation weiter zu verkomplizieren, gibt es Bedenken dar\u00fcber, was passiert, wenn KI anf\u00e4ngt, ihren eigenen Output zu verbrauchen, was nach Ansicht von Forschern der \u00c9cole Polytechnique F\u00e9d\u00e9rale de Lausanne (EPFL) in der Schweiz geschieht bereits<\/a>. <\/span><\/p>\n

Ihre Untersuchungen deuten darauf hin, dass KI-Unternehmen, die von Menschen produzierte Daten \u00fcber Plattformen wie Amazon Mechanical Turk kaufen, stattdessen m\u00f6glicherweise KI-generierte Daten erhalten.\u00a0<\/span><\/p>\n

Was passiert, wenn KI beginnt, ihren eigenen Output zu essen? Kann dies vermieden werden?<\/p>\n

Der Aufbau von Datens\u00e4tzen ist teuer und zeitaufw\u00e4ndig - und es steht viel auf dem Spiel<\/span><\/h2>\n

Daten sind allgegenw\u00e4rtig, aber ihre Operationalisierung f\u00fcr KI ist ein komplexer Prozess. Die Qualit\u00e4t der Daten und Beschriftungen wirkt sich auf die Leistung des Modells aus - es ist ein Fall von \"M\u00fcll rein, M\u00fcll raus\".\u00a0<\/span><\/p>\n

Um den Prozess der Erstellung von Datens\u00e4tzen kurz zu beschreiben: Datenannotatoren (oder Beschrifter) nehmen verarbeitete Daten (z. B. ein ausgeschnittenes Bild) und beschriften <\/span>Merkmale (z. B. ein Auto, eine Person, ein Vogel).\u00a0<\/span><\/p>\n

Dadurch erhalten die Algorithmen ein \"Ziel\", von dem sie lernen k\u00f6nnen. Die Algorithmen extrahieren und analysieren Merkmale aus markierten Daten, um diese Merkmale in neuen, ungesehenen Daten vorherzusagen. <\/span><\/p>\n

Dies ist f\u00fcr das \u00fcberwachte maschinelle Lernen erforderlich, das neben dem un\u00fcberwachten maschinellen Lernen und dem Reinforcement Learning zu den Kernbereichen des maschinellen Lernens geh\u00f6rt. Unter einige Sch\u00e4tzungen<\/a>Der Prozess der Datenaufbereitung und -beschriftung nimmt 80% der Projektdauer eines Modells f\u00fcr maschinelles Lernen in Anspruch, aber wenn man zu viele Kompromisse eingeht, besteht die Gefahr, dass die Leistung des Modells beeintr\u00e4chtigt wird. <\/span><\/p>\n

Neben den praktischen Herausforderungen bei der Erstellung hochwertiger Datens\u00e4tze \u00e4ndert sich auch die Art der Daten selbst st\u00e4ndig. Was man vor 10 Jahren als \"Datensatz mit einer typischen Auswahl an Fahrzeugen im Stra\u00dfenverkehr\" definiert hat, ist heute nicht mehr dasselbe. Heute ist zum Beispiel eine viel gr\u00f6\u00dfere Anzahl von E-Scootern und E-Bikes auf den Stra\u00dfen zu finden.\u00a0<\/span><\/p>\n

Diese werden als \"Randf\u00e4lle\" bezeichnet, d. h. seltene Objekte oder Ph\u00e4nomene, die in Datens\u00e4tzen nicht vorkommen.\u00a0<\/span><\/p>\n

Modelle spiegeln die Qualit\u00e4t ihrer Datens\u00e4tze wider<\/span><\/h2>\n

Wenn Sie ein modernes KI-System auf einem alten Datensatz trainieren, besteht die Gefahr, dass das Modell eine geringe Leistung erbringt, wenn es mit neuen, ungesehenen Daten konfrontiert wird.\u00a0<\/span><\/p>\n

Zwischen 2015 und 2020 deckten Forscher erhebliche strukturelle Verzerrungen in KI-Algorithmen auf, die zum Teil auf das Training von Modellen mit alten und verzerrten Daten zur\u00fcckzuf\u00fchren waren. <\/span><\/p>\n

Zum Beispiel, die <\/span>Beschriftete Gesichter im Wilden Heim (LFW)<\/span><\/a>ein Datensatz mit prominenten Gesichtern, der h\u00e4ufig f\u00fcr die Gesichtserkennung verwendet wird, besteht aus <\/span>77,5%-M\u00e4nner und 83,5%-Wei\u00dfh\u00e4utige<\/span><\/a> Personen. Eine KI hat keine Chance, richtig zu funktionieren, wenn die Daten nicht alle Personen repr\u00e4sentieren, die sie bedienen soll. Die Fehlerquoten der besten Algorithmen bei der Gesichtserkennung lagen bei 0,8% f\u00fcr wei\u00dfe M\u00e4nner und bei 34,7% f\u00fcr dunkelh\u00e4utige Frauen.\u00a0<\/span><\/p>\n

Diese Forschung gipfelte in dem bahnbrechenden <\/span>Gender Shades Studie<\/span><\/a> und einen Dokumentarfilm mit dem Titel <\/span>Codierte Verzerrung<\/span><\/a>in der untersucht wurde, wie KI wahrscheinlich aus fehlerhaften und nicht repr\u00e4sentativen Daten lernt.<\/span><\/p>\n

Die Auswirkungen sind alles andere als harmlos - dies hat zu falschen Gerichtsurteilen, falschen Inhaftierungen und zur Verweigerung von Arbeitspl\u00e4tzen und Krediten f\u00fcr Frauen und andere Gruppen gef\u00fchrt.<\/span><\/p>\n

KI ben\u00f6tigt mehr hochwertige Daten, die fair und repr\u00e4sentativ sein m\u00fcssen - Es ist eine schwer zu fassende Kombination.\u00a0<\/span><\/p>\n

Sind synthetische Daten die Antwort?<\/span><\/h2>\n

Synthetische Daten werden h\u00e4ufig in der Computer Vision (CV) verwendet, wo KI Objekte und Merkmale aus Bildern und Videos identifizieren.\u00a0<\/span><\/p>\n

Anstatt Bilddaten in der realen Welt zu sammeln - wie z. B. das Fotografieren oder Filmen einer Stra\u00dfe -, was eine technische Herausforderung darstellt und Probleme mit dem Datenschutz mit sich bringt, werden die Daten einfach in einer virtuellen Umgebung erzeugt.\u00a0<\/span><\/p>\n

\"\"
Synthetische Daten f\u00fcr das Training fahrerloser Autos. Quelle: Analytik Indien Mag<\/a>.<\/figcaption><\/figure>\n

Dies erg\u00e4nzt die KI zwar um mehr Daten, hat aber auch einige Nachteile:\u00a0<\/span><\/p>\n