{"id":1871,"date":"2023-06-18T22:43:50","date_gmt":"2023-06-18T22:43:50","guid":{"rendered":"https:\/\/dailyai.com\/?p=1871"},"modified":"2024-03-28T00:48:00","modified_gmt":"2024-03-28T00:48:00","slug":"what-happens-when-ai-starts-consuming-its-own-output","status":"publish","type":"post","link":"https:\/\/dailyai.com\/da\/2023\/06\/what-happens-when-ai-starts-consuming-its-own-output\/","title":{"rendered":"Hvad sker der, n\u00e5r AI begynder at forbruge sit eget output?"},"content":{"rendered":"

Data er livsnerven i AI, men det er ikke en uendelig ressource. Kan menneskeheden l\u00f8be t\u00f8r for data? Hvad sker der, hvis vi g\u00f8r?<\/strong><\/p>\n

Komplekse AI-modeller kr\u00e6ver store m\u00e6ngder tr\u00e6ningsdata. For eksempel kr\u00e6ver tr\u00e6ning af en stor sprogmodel (LLM) som ChatGPT cirka 10 billioner ord.\u00a0<\/span><\/p>\n

Nogle eksperter mener, at udbuddet af data af h\u00f8j kvalitet er faldende. For eksempel viste en unders\u00f8gelse fra 2022 fra forskere p\u00e5 flere universiteter Udtalt<\/a>, <\/span>\"Vores analyse viser, at m\u00e6ngden af sprogdata af h\u00f8j kvalitet snart vil v\u00e6re opbrugt; sandsynligvis inden 2026... Vores arbejde tyder p\u00e5, at den nuv\u00e6rende tendens med stadigt voksende ML-modeller, der er afh\u00e6ngige af enorme datas\u00e6t, kan aftage, hvis dataeffektiviteten ikke forbedres drastisk, eller nye datakilder bliver tilg\u00e6ngelige.\"\u00a0<\/span><\/p>\n

Generering af syntetiske data er en l\u00f8sning, men den kan generelt ikke indfange dybden, nuancerne og variationen i rigtige data.\u00a0<\/span><\/p>\n

For yderligere at komplicere situationen er der bekymring for, hvad der sker, n\u00e5r AI begynder at forbruge sin egen produktion, hvilket forskere ved \u00c9cole Polytechnique F\u00e9d\u00e9rale de Lausanne (EPFL) i Schweiz mener er Det sker allerede<\/a>. <\/span><\/p>\n

Deres forskning viser, at AI-virksomheder, der k\u00f8ber menneskeproducerede data via platforme som Amazon Mechanical Turk, kan modtage AI-genererede data i stedet.\u00a0<\/span><\/p>\n

Hvad sker der, n\u00e5r AI begynder at spise sit eget output? Kan det undg\u00e5s?<\/p>\n

Det er dyrt og tidskr\u00e6vende at opbygge datas\u00e6t - og der st\u00e5r meget p\u00e5 spil<\/span><\/h2>\n

Data er allestedsn\u00e6rv\u00e6rende, men det er en kompleks proces at operationalisere dem til AI. Kvaliteten af data og etiketter p\u00e5virker modellens ydeevne - det er et tilf\u00e6lde af \"skrald ind, skrald ud\".\u00a0<\/span><\/p>\n

For kort at beskrive processen med at opbygge datas\u00e6t tager dataanmeldere (eller m\u00e6rkere) behandlede data (f.eks. et besk\u00e5ret billede) og m\u00e6rker dem. <\/span>funktioner (f.eks. en bil, en person, en fugl).\u00a0<\/span><\/p>\n

Det giver algoritmerne et \"m\u00e5l\" at l\u00e6re af. Algoritmerne udtr\u00e6kker og analyserer funktioner fra m\u00e6rkede data for at forudsige disse funktioner i nye, usete data. <\/span><\/p>\n

Det er n\u00f8dvendigt for overv\u00e5get maskinl\u00e6ring, som er en af kerneomr\u00e5derne inden for maskinl\u00e6ring sammen med ikke-overv\u00e5get maskinl\u00e6ring og forst\u00e6rkningsl\u00e6ring. Ved at nogle sk\u00f8n<\/a>I dag optager dataforberedelsen og m\u00e6rkningsprocessen 80% af et maskinl\u00e6ringsmodels projekts varighed, men hvis man sk\u00e6rer for mange hj\u00f8rner, risikerer man at g\u00e5 p\u00e5 kompromis med en models ydeevne. <\/span><\/p>\n

Ud over de praktiske udfordringer med at skabe datas\u00e6t af h\u00f8j kvalitet \u00e6ndrer selve datas natur sig konstant. Det, man ville definere som et \"datas\u00e6t, der indeholder et typisk udvalg af k\u00f8ret\u00f8jer p\u00e5 vejene\" for 10 \u00e5r siden, er ikke det samme i dag. Nu finder man f.eks. et meget st\u00f8rre antal el-scootere og el-cykler p\u00e5 vejene.\u00a0<\/span><\/p>\n

Disse kaldes \"edge cases\", som er sj\u00e6ldne objekter eller f\u00e6nomener, der ikke findes i datas\u00e6t.\u00a0<\/span><\/p>\n

Modeller afspejler kvaliteten af deres datas\u00e6t<\/span><\/h2>\n

Hvis du tr\u00e6ner et moderne AI-system p\u00e5 et gammelt datas\u00e6t, risikerer modellen at f\u00e5 en lav ydeevne, n\u00e5r den uds\u00e6ttes for nye, usete data.\u00a0<\/span><\/p>\n

Mellem 2015 og 2020 afsl\u00f8rede forskere store strukturelle sk\u00e6vheder i AI-algoritmer, som til dels blev tilskrevet tr\u00e6ning af modeller p\u00e5 gamle og sk\u00e6ve data. <\/span><\/p>\n

For eksempel kan <\/span>M\u00e6rkede ansigter i det vilde hjem (LFW)<\/span><\/a>et datas\u00e6t med kendte ansigter, der ofte bruges i ansigtsgenkendelsesopgaver, best\u00e5r af <\/span>77,5% m\u00e6nd og 83,5% hvidhudede<\/span><\/a> individer. En AI har intet h\u00e5b om at fungere ordentligt, hvis dataene ikke repr\u00e6senterer alle, den har til hensigt at tjene. Fejlprocenterne for ansigtsgenkendelse blandt de bedste algoritmer viste sig at v\u00e6re s\u00e5 lave som 0,8% for hvide m\u00e6nd og s\u00e5 h\u00f8je som 34,7% for m\u00f8rkhudede kvinder.\u00a0<\/span><\/p>\n

Denne forskning kulminerede i den skels\u00e6ttende <\/span>Unders\u00f8gelse af k\u00f8nsnuancer<\/span><\/a> og en dokumentarfilm ved navn <\/span>Kodet bias<\/span><\/a>som unders\u00f8gte, hvordan AI sandsynligvis l\u00e6rer af fejlbeh\u00e6ftede og ikke-repr\u00e6sentative data.<\/span><\/p>\n

Konsekvenserne af dette er langt fra gode - det har f\u00f8rt til forkerte retsresultater, falske f\u00e6ngslinger, og kvinder og andre grupper er blevet n\u00e6gtet job og kredit.<\/span><\/p>\n

AI har brug for flere data af h\u00f8j kvalitet, som skal v\u00e6re retf\u00e6rdige og repr\u00e6sentative - Det er en sv\u00e6r kombination.\u00a0<\/span><\/p>\n

Er syntetiske data svaret?<\/span><\/h2>\n

Syntetiske data bruges ofte i computer vision (CV), hvor AI'er identificerer objekter og funktioner fra billeder og video.\u00a0<\/span><\/p>\n

I stedet for at indsamle billeddata fra den virkelige verden - som f.eks. at fotografere eller filme en gade - hvilket er teknisk udfordrende og giver problemer med privatlivets fred - genererer man simpelthen dataene i et virtuelt milj\u00f8.\u00a0<\/span><\/p>\n

\"\"
Syntetiske data til tr\u00e6ning af f\u00f8rerl\u00f8se biler. Kilde: Analytics India Mag<\/a>.<\/figcaption><\/figure>\n

Selv om dette supplerer AI'er med flere data, er der flere ulemper:\u00a0<\/span><\/p>\n