{"id":1871,"date":"2023-06-18T22:43:50","date_gmt":"2023-06-18T22:43:50","guid":{"rendered":"https:\/\/dailyai.com\/?p=1871"},"modified":"2024-03-28T00:48:00","modified_gmt":"2024-03-28T00:48:00","slug":"what-happens-when-ai-starts-consuming-its-own-output","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nl\/2023\/06\/what-happens-when-ai-starts-consuming-its-own-output\/","title":{"rendered":"Wat gebeurt er als AI zijn eigen output begint te consumeren?"},"content":{"rendered":"

Gegevens zijn het levensbloed van AI, maar het is geen oneindige bron. Kan de mensheid zonder gegevens komen te zitten? Wat gebeurt er als dat gebeurt?<\/strong><\/p>\n

Complexe AI-modellen vereisen enorme hoeveelheden trainingsgegevens. Voor het trainen van een groot taalmodel (LLM) zoals ChatGPT zijn bijvoorbeeld ongeveer 10 biljoen woorden nodig.\u00a0<\/span><\/p>\n

Sommige deskundigen zijn van mening dat de aanvoer van gegevens van hoge kwaliteit afneemt. Een onderzoek uit 2022 van onderzoekers van verschillende universiteiten verklaarde<\/a>, <\/span>\"Onze analyse geeft aan dat de voorraad taalgegevens van hoge kwaliteit binnenkort uitgeput zal zijn; waarschijnlijk voor 2026... Ons werk suggereert dat de huidige trend van steeds groeiende ML-modellen die vertrouwen op enorme datasets zou kunnen vertragen als de data-effici\u00ebntie niet drastisch wordt verbeterd of als er nieuwe gegevensbronnen beschikbaar komen.\"\u00a0<\/span><\/p>\n

Het genereren van synthetische gegevens biedt een oplossing, maar slaagt er over het algemeen niet in om de diepte, nuance en variantie van echte gegevens vast te leggen.\u00a0<\/span><\/p>\n

Om de situatie nog ingewikkelder te maken, maakt men zich zorgen over wat er gebeurt als AI zijn eigen output begint te consumeren, wat volgens onderzoekers van de \u00c9cole Polytechnique F\u00e9d\u00e9rale de Lausanne (EPFL) in Zwitserland het geval is. gebeurt al<\/a>. <\/span><\/p>\n

Hun onderzoek geeft aan dat AI-bedrijven die door mensen geproduceerde gegevens kopen via platforms zoals Amazon Mechanical Turk, in plaats daarvan door AI gegenereerde gegevens kunnen ontvangen.\u00a0<\/span><\/p>\n

Wat gebeurt er als AI zijn eigen output begint op te eten? Kan het worden voorkomen?<\/p>\n

Het opbouwen van datasets is duur en tijdrovend - en er staat veel op het spel<\/span><\/h2>\n

Gegevens zijn alomtegenwoordig, maar het operationaliseren ervan voor AI is een complex proces. De kwaliteit van de gegevens en labels be\u00efnvloedt de prestaties van het model - het is een geval van \"vuilnis erin, vuilnis eruit\".\u00a0<\/span><\/p>\n

Om het proces van het samenstellen van datasets kort te beschrijven, nemen data annotators (of labelaars) bewerkte data (bijvoorbeeld een bijgesneden afbeelding) en labelen <\/span>kenmerken (bijvoorbeeld een auto, een persoon, een vogel).\u00a0<\/span><\/p>\n

Dit geeft algoritmen een 'doel' om van te leren. De algoritmen extraheren en analyseren kenmerken uit gelabelde gegevens om die kenmerken te voorspellen in nieuwe, ongeziene gegevens. <\/span><\/p>\n

Dit is nodig voor supervised machine learning, een van de kerntakken van machine learning naast unsupervised machine learning en reinforcement learning. Door sommige schattingen<\/a>Het voorbereiden en labelen van gegevens neemt 80% in beslag van de duur van een project voor een machine-learningmodel, maar als je te veel hooi op je vork neemt, loop je het risico dat de prestaties van een model in gevaar komen. <\/span><\/p>\n

Naast de praktische uitdagingen om datasets van hoge kwaliteit te maken, verandert de aard van data voortdurend. Wat je 10 jaar geleden zou defini\u00ebren als een \"dataset met een typische selectie van voertuigen op de weg\" is vandaag de dag niet meer hetzelfde. Nu vind je bijvoorbeeld veel meer eScooters en eBikes op de weg.\u00a0<\/span><\/p>\n

Dit worden \"randgevallen\" genoemd, wat zeldzame objecten of fenomenen zijn die niet voorkomen in datasets.\u00a0<\/span><\/p>\n

Modellen weerspiegelen de kwaliteit van hun datasets<\/span><\/h2>\n

Als je een modern AI-systeem traint op een oude dataset, loopt het model het risico slecht te presteren wanneer het wordt blootgesteld aan nieuwe, ongeziene gegevens.\u00a0<\/span><\/p>\n

Tussen 2015 en 2020 ontdekten onderzoekers grote structurele vertekeningen in AI-algoritmen, die deels werden toegeschreven aan het trainen van modellen op oude en bevooroordeelde gegevens. <\/span><\/p>\n

Bijvoorbeeld de <\/span>Gelabelde gezichten in het wilde huis (LFW)<\/span><\/a>, een dataset van gezichten van beroemdheden die vaak wordt gebruikt in gezichtsherkenningstaken, bestaat uit <\/span>77,5% mannen en 83,5% blanken<\/span><\/a> individuen. Een AI heeft geen hoop om goed te functioneren als de gegevens niet iedereen vertegenwoordigen die het van dienst wil zijn. Foutpercentages in gezichtsherkenning onder topalgoritmen bleken zo laag te zijn als 0,8% voor blanke mannen en zo hoog als 34,7% voor vrouwen met een donkere huidskleur.\u00a0<\/span><\/p>\n

Dit onderzoek culmineerde in de mijlpaal <\/span>Gendertinten studie<\/span><\/a> en een documentaire genaamd <\/span>Gecodeerde vertekening<\/span><\/a>waarin werd onderzocht hoe AI waarschijnlijk leert van gebrekkige en niet-representatieve gegevens.<\/span><\/p>\n

De gevolgen hiervan zijn verre van goedaardig - dit heeft geleid tot onjuiste uitspraken in rechtszaken, onterechte gevangenisstraffen en vrouwen en andere groepen die banen en kredieten worden geweigerd.<\/span><\/p>\n

AI's hebben meer gegevens van hoge kwaliteit nodig, die eerlijk en representatief moeten zijn - het is een ongrijpbare combinatie.\u00a0<\/span><\/p>\n

Zijn synthetische gegevens het antwoord?<\/span><\/h2>\n

Synthetische gegevens worden vaak gebruikt in computer vision (CV), waarbij AI's objecten en kenmerken identificeren uit afbeeldingen en video.\u00a0<\/span><\/p>\n

In plaats van het verzamelen van beeldgegevens uit de echte wereld - zoals het fotograferen of filmen van een straat - wat technisch een uitdaging is en privacyproblemen oplevert, genereer je de gegevens gewoon in een virtuele omgeving.\u00a0<\/span><\/p>\n

\"\"
Synthetische gegevens voor training van bestuurderloze auto's. Bron: Analytics India Mag<\/a>.<\/figcaption><\/figure>\n

Hoewel dit AI's aanvult met meer gegevens, zijn er verschillende nadelen:\u00a0<\/span><\/p>\n