{"id":1871,"date":"2023-06-18T22:43:50","date_gmt":"2023-06-18T22:43:50","guid":{"rendered":"https:\/\/dailyai.com\/?p=1871"},"modified":"2024-03-28T00:48:00","modified_gmt":"2024-03-28T00:48:00","slug":"what-happens-when-ai-starts-consuming-its-own-output","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nb\/2023\/06\/what-happens-when-ai-starts-consuming-its-own-output\/","title":{"rendered":"Hva skjer n\u00e5r AI begynner \u00e5 konsumere sin egen produksjon?"},"content":{"rendered":"

Data er livsnerven i AI, men det er ikke en uendelig ressurs. Kan menneskeheten g\u00e5 tom for data? Hva skjer hvis vi gj\u00f8r det?<\/strong><\/p>\n

Komplekse AI-modeller krever enorme mengder treningsdata. For eksempel krever oppl\u00e6ring av en stor spr\u00e5kmodell (LLM) som ChatGPT omtrent 10 billioner ord.\u00a0<\/span><\/p>\n

Noen eksperter mener at tilgangen p\u00e5 data av h\u00f8y kvalitet er synkende. En studie fra 2022 fra forskere ved flere universiteter viser for eksempel oppgitt<\/a>, <\/span>\"Analysen v\u00e5r tyder p\u00e5 at beholdningen av spr\u00e5kdata av h\u00f8y kvalitet snart vil v\u00e6re oppbrukt, sannsynligvis f\u00f8r 2026 ... Arbeidet v\u00e5rt tyder p\u00e5 at den n\u00e5v\u00e6rende trenden med stadig voksende ML-modeller som baserer seg p\u00e5 enorme datasett, kan avta hvis ikke dataeffektiviteten forbedres drastisk eller nye datakilder blir tilgjengelige.\"\u00a0<\/span><\/p>\n

Selv om generering av syntetiske data er en l\u00f8sning, klarer de som regel ikke \u00e5 fange opp dybden, nyansene og variasjonen i reelle data.\u00a0<\/span><\/p>\n

For \u00e5 komplisere situasjonen ytterligere, er det bekymring for hva som skjer n\u00e5r AI begynner \u00e5 konsumere sin egen produksjon, noe forskere ved \u00c9cole Polytechnique F\u00e9d\u00e9rale de Lausanne (EPFL) i Sveits mener er skjer allerede<\/a>. <\/span><\/p>\n

Forskningen deres indikerer at AI-selskaper som kj\u00f8per menneskeproduserte data gjennom plattformer som Amazon Mechanical Turk, kan motta AI-genererte data i stedet.\u00a0<\/span><\/p>\n

Hva skjer n\u00e5r AI begynner \u00e5 spise sin egen produksjon? Kan det unng\u00e5s?<\/p>\n

Det er dyrt og tidkrevende \u00e5 bygge datasett - og mye st\u00e5r p\u00e5 spill<\/span><\/h2>\n

Data er allestedsn\u00e6rv\u00e6rende, men det er en kompleks prosess \u00e5 operasjonalisere dem for AI. Kvaliteten p\u00e5 dataene og etikettene p\u00e5virker modellens ytelse - det er et tilfelle av \"s\u00f8ppel inn, s\u00f8ppel ut\".\u00a0<\/span><\/p>\n

For \u00e5 gi en kort beskrivelse av prosessen med \u00e5 bygge datasett, tar dataannotat\u00f8rer (eller etikett\u00f8rer) bearbeidede data (f.eks. et utsnitt av et bilde) og merker <\/span>funksjoner (f.eks. en bil, en person, en fugl).\u00a0<\/span><\/p>\n

Dette gir algoritmene et \"m\u00e5l\" \u00e5 l\u00e6re fra. Algoritmene trekker ut og analyserer egenskaper fra merkede data for \u00e5 forutsi disse egenskapene i nye, usette data. <\/span><\/p>\n

Dette er n\u00f8dvendig for overv\u00e5ket maskinl\u00e6ring, som er en av kjernegrenene innen maskinl\u00e6ring ved siden av ikke-overv\u00e5ket maskinl\u00e6ring og forsterkningsl\u00e6ring. Ved \u00e5 noen estimater<\/a>tar datatilberedningen og merkingsprosessen 80% av et maskinl\u00e6ringsmodellprosjekts varighet, men hvis man tar for mange snarveier, risikerer man at det g\u00e5r p\u00e5 bekostning av modellens ytelse. <\/span><\/p>\n

I tillegg til de praktiske utfordringene med \u00e5 lage datasett av h\u00f8y kvalitet, er det ogs\u00e5 slik at selve innholdet i dataene stadig endrer seg. Det du ville definert som et \"datasett som inneholder et typisk utvalg av kj\u00f8ret\u00f8y p\u00e5 veiene\" for 10 \u00e5r siden, er ikke det samme i dag. I dag vil du for eksempel finne et mye st\u00f8rre antall el-sparkesykler og el-sykler p\u00e5 veiene.\u00a0<\/span><\/p>\n

Disse kalles \"edge cases\", og er sjeldne objekter eller fenomener som ikke finnes i datasettene.\u00a0<\/span><\/p>\n

Modellene gjenspeiler kvaliteten p\u00e5 datasettene<\/span><\/h2>\n

Hvis du trener opp et moderne AI-system p\u00e5 et gammelt datasett, risikerer modellen \u00e5 f\u00e5 lav ytelse n\u00e5r den utsettes for nye, ukjente data.\u00a0<\/span><\/p>\n

Mellom 2015 og 2020 avdekket forskere store strukturelle skjevheter i AI-algoritmer, noe som delvis skyldtes at modellene ble trent p\u00e5 gamle og skjeve data. <\/span><\/p>\n

For eksempel kan <\/span>Merkede ansikter i det ville hjem (LFW)<\/span><\/a>, et datasett med kjendisansikter som ofte brukes i ansiktsgjenkjenningsoppgaver, best\u00e5r av <\/span>77,5% menn og 83,5% menn med hvit hudfarge<\/span><\/a> individer. En kunstig intelligens har ingen mulighet til \u00e5 fungere skikkelig hvis dataene ikke representerer alle den skal betjene. Feilraten for ansiktsgjenkjenning blant de beste algoritmene ble funnet \u00e5 v\u00e6re s\u00e5 lav som 0,8% for hvite menn og s\u00e5 h\u00f8y som 34,7% for m\u00f8rkhudede kvinner.\u00a0<\/span><\/p>\n

Denne forskningen kulminerte i den banebrytende <\/span>Studie av kj\u00f8nnsnyanser<\/span><\/a> og en dokumentarfilm ved navn <\/span>Kodet skjevhet<\/span><\/a>som unders\u00f8kte hvordan kunstig intelligens sannsynligvis l\u00e6rer av mangelfulle og ikke-representative data.<\/span><\/p>\n

Konsekvensene av dette er langt fra ufarlige - det har f\u00f8rt til feilaktige rettsavgj\u00f8relser, falske fengslinger, og kvinner og andre grupper har blitt nektet jobb og kreditt.<\/span><\/p>\n

KI trenger mer data av h\u00f8y kvalitet, som m\u00e5 v\u00e6re rettferdige og representative - Det er en vanskelig kombinasjon.\u00a0<\/span><\/p>\n

Er syntetiske data svaret?<\/span><\/h2>\n

Syntetiske data brukes ofte i datasyn (CV), der kunstig intelligens identifiserer objekter og funksjoner fra bilder og video.\u00a0<\/span><\/p>\n

I stedet for \u00e5 samle inn bildedata fra den virkelige verden - som \u00e5 fotografere eller filme en gate, noe som er teknisk utfordrende og byr p\u00e5 problemer med personvernet - genererer du ganske enkelt dataene i et virtuelt milj\u00f8.\u00a0<\/span><\/p>\n

\"\"
Syntetiske data for oppl\u00e6ring i f\u00f8rerl\u00f8se biler. Kilde: Analytics India Mag<\/a>.<\/figcaption><\/figure>\n

Selv om dette gir AI-ene mer data, har det flere ulemper:\u00a0<\/span><\/p>\n