{"id":1871,"date":"2023-06-18T22:43:50","date_gmt":"2023-06-18T22:43:50","guid":{"rendered":"https:\/\/dailyai.com\/?p=1871"},"modified":"2024-03-28T00:48:00","modified_gmt":"2024-03-28T00:48:00","slug":"what-happens-when-ai-starts-consuming-its-own-output","status":"publish","type":"post","link":"https:\/\/dailyai.com\/sv\/2023\/06\/what-happens-when-ai-starts-consuming-its-own-output\/","title":{"rendered":"Vad h\u00e4nder n\u00e4r AI b\u00f6rjar konsumera sin egen produktion?"},"content":{"rendered":"

Data \u00e4r AI:s livsnerv, men det \u00e4r inte en o\u00e4ndlig resurs. Kan m\u00e4nskligheten f\u00e5 slut p\u00e5 data? Vad h\u00e4nder om vi g\u00f6r det?<\/strong><\/p>\n

Komplexa AI-modeller kr\u00e4ver stora m\u00e4ngder tr\u00e4ningsdata. F\u00f6r att tr\u00e4na en stor spr\u00e5kmodell (LLM) som ChatGPT kr\u00e4vs till exempel cirka 10 biljoner ord.\u00a0<\/span><\/p>\n

Vissa experter anser att tillg\u00e5ngen p\u00e5 data av h\u00f6g kvalitet minskar. Till exempel visade en studie fr\u00e5n 2022 fr\u00e5n forskare vid flera universitet uttalade<\/a>, <\/span>\"V\u00e5r analys tyder p\u00e5 att lagret av h\u00f6gkvalitativa spr\u00e5kdata snart kommer att vara utt\u00f6mt, sannolikt f\u00f6re 2026 ... V\u00e5rt arbete tyder p\u00e5 att den nuvarande trenden med st\u00e4ndigt v\u00e4xande ML-modeller som f\u00f6rlitar sig p\u00e5 enorma datam\u00e4ngder kan sakta ner om dataeffektiviteten inte f\u00f6rb\u00e4ttras drastiskt eller nya datak\u00e4llor blir tillg\u00e4ngliga.\"\u00a0<\/span><\/p>\n

Att generera syntetisk data \u00e4r en l\u00f6sning, men den lyckas i allm\u00e4nhet inte f\u00e5nga djupet, nyanserna och variansen i verklig data.\u00a0<\/span><\/p>\n

F\u00f6r att ytterligare komplicera situationen finns det farh\u00e5gor om vad som h\u00e4nder n\u00e4r AI b\u00f6rjar konsumera sin egen produktion, vilket forskare vid \u00c9cole Polytechnique F\u00e9d\u00e9rale de Lausanne (EPFL) i Schweiz anser \u00e4r h\u00e4nder redan<\/a>. <\/span><\/p>\n

Deras forskning tyder p\u00e5 att AI-f\u00f6retag som k\u00f6per m\u00e4nskligt producerad data via plattformar som Amazon Mechanical Turk kan f\u00e5 AI-genererad data ist\u00e4llet.\u00a0<\/span><\/p>\n

Vad h\u00e4nder n\u00e4r AI b\u00f6rjar \u00e4ta sin egen produktion? G\u00e5r det att undvika?<\/p>\n

Att bygga upp dataset \u00e4r dyrt och tidskr\u00e4vande - och insatserna \u00e4r h\u00f6ga<\/span><\/h2>\n

Data finns \u00f6verallt, men att operationalisera dem f\u00f6r AI \u00e4r en komplex process. Kvaliteten p\u00e5 data och etiketter p\u00e5verkar modellens prestanda - det \u00e4r ett fall av \"skr\u00e4p in, skr\u00e4p ut\".\u00a0<\/span><\/p>\n

F\u00f6r att kortfattat beskriva processen f\u00f6r att bygga upp dataset tar dataantecknare (eller etiketterare) bearbetade data (t.ex. en beskuren bild) och etiketterar <\/span>funktioner (t.ex. en bil, en person, en f\u00e5gel).\u00a0<\/span><\/p>\n

Detta ger algoritmerna ett \"m\u00e5l\" att l\u00e4ra sig fr\u00e5n. Algoritmerna extraherar och analyserar funktioner fr\u00e5n m\u00e4rkta data f\u00f6r att f\u00f6ruts\u00e4ga dessa funktioner i nya, osedda data. <\/span><\/p>\n

Detta kr\u00e4vs f\u00f6r \u00f6vervakad maskininl\u00e4rning, som \u00e4r en av de viktigaste grenarna inom maskininl\u00e4rning tillsammans med o\u00f6vervakad maskininl\u00e4rning och f\u00f6rst\u00e4rkningsinl\u00e4rning. Genom att vissa uppskattningar<\/a>F\u00f6rberedelse- och m\u00e4rkningsprocessen f\u00f6r data upptar 80% av ett maskininl\u00e4rningsmodellprojekts varaktighet, men att sk\u00e4ra f\u00f6r m\u00e5nga h\u00f6rn riskerar att \u00e4ventyra en modells prestanda. <\/span><\/p>\n

F\u00f6rutom de praktiska utmaningarna med att skapa h\u00f6gkvalitativa dataset f\u00f6r\u00e4ndras datas natur hela tiden. Det som f\u00f6r 10 \u00e5r sedan definierades som en \"dataset som inneh\u00e5ller ett typiskt urval av fordon p\u00e5 v\u00e4garna\" \u00e4r inte detsamma idag. Nu hittar du till exempel ett mycket st\u00f6rre antal eScooters och eBikes p\u00e5 v\u00e4garna.\u00a0<\/span><\/p>\n

Dessa kallas \"edge cases\", vilket \u00e4r s\u00e4llsynta objekt eller fenomen som inte f\u00f6rekommer i dataset.\u00a0<\/span><\/p>\n

Modellerna \u00e5terspeglar kvaliteten p\u00e5 deras dataset<\/span><\/h2>\n

Om du tr\u00e4nar ett modernt AI-system p\u00e5 ett gammalt dataset riskerar modellen att f\u00e5 l\u00e5g prestanda n\u00e4r den uts\u00e4tts f\u00f6r nya, osedda data.\u00a0<\/span><\/p>\n

Mellan 2015 och 2020 uppt\u00e4ckte forskare stora strukturella fel i AI-algoritmer, som delvis berodde p\u00e5 att modellerna tr\u00e4nades p\u00e5 gamla och partiska data. <\/span><\/p>\n

Till exempel kan <\/span>M\u00e4rkta ansikten i det vilda hemmet (LFW)<\/span><\/a>, ett dataset med k\u00e4ndisansikten som ofta anv\u00e4nds vid ansiktsigenk\u00e4nning, best\u00e5r av <\/span>77,5% m\u00e4n och 83,5% personer med vit hudf\u00e4rg<\/span><\/a> individer. En AI har inget hopp om att fungera korrekt om data inte representerar alla som den avser att tj\u00e4na. Felprocenten f\u00f6r ansiktsigenk\u00e4nning bland de b\u00e4sta algoritmerna visade sig vara s\u00e5 l\u00e5g som 0,8% f\u00f6r vita m\u00e4n och s\u00e5 h\u00f6g som 34,7% f\u00f6r m\u00f6rkhyade kvinnor.\u00a0<\/span><\/p>\n

Denna forskning kulminerade i den banbrytande <\/span>Studie av genusnyanser<\/span><\/a> och en dokument\u00e4rfilm som heter <\/span>Kodad partiskhet<\/span><\/a>som unders\u00f6kte hur AI sannolikt l\u00e4r sig fr\u00e5n bristf\u00e4lliga och icke-representativa data.<\/span><\/p>\n

Konsekvenserna av detta \u00e4r l\u00e5ngt ifr\u00e5n oskyldiga - det har lett till felaktiga domslut, falska frihetsber\u00f6vanden och till att kvinnor och andra grupper har nekats jobb och krediter.<\/span><\/p>\n

AI beh\u00f6ver mer data av h\u00f6g kvalitet, som m\u00e5ste vara r\u00e4ttvisande och representativ - det \u00e4r en sv\u00e5rf\u00e5ngad kombination.\u00a0<\/span><\/p>\n

\u00c4r syntetisk data svaret?<\/span><\/h2>\n

Syntetisk data anv\u00e4nds ofta inom computer vision (CV), d\u00e4r AI identifierar objekt och funktioner fr\u00e5n bilder och video.\u00a0<\/span><\/p>\n

Ist\u00e4llet f\u00f6r att samla in bilddata fr\u00e5n den verkliga v\u00e4rlden - som att fotografera eller videofilma en gata, vilket \u00e4r tekniskt utmanande och medf\u00f6r integritetsfr\u00e5gor - genererar man helt enkelt data i en virtuell milj\u00f6.\u00a0<\/span><\/p>\n

\"\"
Syntetisk data f\u00f6r utbildning i f\u00f6rarl\u00f6sa bilar. K\u00e4llan \u00e4r: Analytics India Mag<\/a>.<\/figcaption><\/figure>\n

\u00c4ven om detta ger AI:erna mer data finns det flera nackdelar:\u00a0<\/span><\/p>\n