{"id":13599,"date":"2024-07-28T17:00:03","date_gmt":"2024-07-28T17:00:03","guid":{"rendered":"https:\/\/dailyai.com\/?p=13599"},"modified":"2024-07-29T09:48:32","modified_gmt":"2024-07-29T09:48:32","slug":"ai-models-face-collapse-when-trained-on-ai-generated-data-study-finds","status":"publish","type":"post","link":"https:\/\/dailyai.com\/sv\/2024\/07\/ai-models-face-collapse-when-trained-on-ai-generated-data-study-finds\/","title":{"rendered":"AI-modeller riskerar att kollapsa n\u00e4r de tr\u00e4nas p\u00e5 AI-genererad data, visar studie"},"content":{"rendered":"

En ny studie som publicerats i Nature visar att AI-modeller, inklusive stora spr\u00e5kmodeller (LLM), snabbt f\u00f6rs\u00e4mras i kvalitet n\u00e4r de tr\u00e4nas p\u00e5 data som genererats av tidigare AI-modeller.\u00a0<\/b><\/p>\n

Detta fenomen, som kallas \"modellkollaps\", kan f\u00f6rs\u00e4mra kvaliteten p\u00e5 framtida AI-modeller, s\u00e4rskilt n\u00e4r mer AI-genererat inneh\u00e5ll sl\u00e4pps ut p\u00e5 internet och d\u00e4rf\u00f6r \u00e5tervinns och \u00e5teranv\u00e4nds i modellutbildningsdata.\u00a0<\/span><\/p>\n

F\u00f6r att unders\u00f6ka detta fenomen har forskare fr\u00e5n University of Cambridge, University of Oxford och andra institutioner genomf\u00f6rda experiment<\/a> som visar att n\u00e4r AI-modeller upprepade g\u00e5nger tr\u00e4nas p\u00e5 data som producerats av tidigare versioner av dem sj\u00e4lva, b\u00f6rjar de generera meningsl\u00f6sa resultat.\u00a0<\/span><\/p>\n

Detta observerades i olika typer av AI-modeller, inklusive spr\u00e5kmodeller, variationsautoenkoder och gaussiska blandningsmodeller.<\/span><\/p>\n

I ett viktigt experiment med spr\u00e5kmodeller finjusterade teamet OPT-125m-modellen p\u00e5 WikiText-2-datasetet och anv\u00e4nde den sedan f\u00f6r att generera ny text. <\/span><\/p>\n

Den AI-genererade texten anv\u00e4ndes sedan f\u00f6r att tr\u00e4na n\u00e4sta \"generation\" av modellen, och processen upprepades g\u00e5ng p\u00e5 g\u00e5ng.\u00a0<\/span><\/p>\n

Det dr\u00f6jde inte l\u00e4nge innan modellerna b\u00f6rjade producera alltmer osannolika och meningsl\u00f6sa texter.\u00a0<\/span><\/p>\n

I den nionde generationen genererade modellen fullst\u00e4ndig rappakalja, som att lista flera icke-existerande typer av \"jackrabbits\" n\u00e4r man fr\u00e5gade om engelska kyrktorn.<\/span><\/p>\n

Forskarna observerade ocks\u00e5 hur modellerna f\u00f6rlorar information om \"s\u00e4llsynta\" eller ovanliga h\u00e4ndelser innan de helt kollapsar.\u00a0<\/span><\/p>\n

Detta \u00e4r alarmerande, eftersom s\u00e4llsynta h\u00e4ndelser ofta r\u00f6r marginaliserade grupper eller avvikare. Utan dem riskerar modellerna att koncentrera sina svar till ett smalt spektrum av id\u00e9er och \u00f6vertygelser, vilket f\u00f6rst\u00e4rker f\u00f6rdomar.<\/span><\/p>\n

AI-f\u00f6retagen \u00e4r medvetna om detta, och d\u00e4rf\u00f6r sluter de avtal med nyhetsf\u00f6retag och utgivare f\u00f6r att s\u00e4kra ett stadigt fl\u00f6de av h\u00f6gkvalitativ, m\u00e4nskligt skriven, aktuell och relevant information.\u00a0<\/span><\/p>\n

\"Budskapet \u00e4r att vi m\u00e5ste vara mycket f\u00f6rsiktiga med vad som hamnar i v\u00e5ra utbildningsdata\", s\u00e4ger han. <\/span>studie<\/span> medf\u00f6rfattare Zakhar Shumaylov fr\u00e5n University of Cambridge <\/span>ber\u00e4ttade f\u00f6r Nature<\/span><\/a>. \"Annars kommer saker och ting alltid, bevisligen, att g\u00e5 fel.\"<\/span><\/p>\n

F\u00f6r att f\u00f6rst\u00e4rka denna effekt har en ny <\/span>studie<\/span><\/a> av Dr. Richard Fletcher, forskningschef vid Reuters Institute for the Study of Journalism, fann att n\u00e4stan h\u00e4lften (48%) av de mest popul\u00e4ra nyhetssajterna i v\u00e4rlden nu \u00e4r otillg\u00e4ngliga f\u00f6r OpenAI:s s\u00f6krobotar, medan Googles AI-s\u00f6krobotar blockeras av 24% av sajterna.<\/span><\/p>\n

Som ett resultat har AI-modeller tillg\u00e5ng till en mindre pool av h\u00f6gkvalitativ, ny data \u00e4n tidigare, vilket \u00f6kar risken f\u00f6r att tr\u00e4na p\u00e5 underm\u00e5lig eller f\u00f6r\u00e5ldrad data.\u00a0<\/span><\/p>\n

L\u00f6sningar p\u00e5 modellkollaps<\/h2>\n

N\u00e4r det g\u00e4ller l\u00f6sningar konstaterar forskarna att det \u00e4r avg\u00f6rande f\u00f6r AI:s framtid att uppr\u00e4tth\u00e5lla tillg\u00e5ngen till originaldatak\u00e4llor som genererats av m\u00e4nniskor.\u00a0<\/span><\/p>\n

Sp\u00e5rning och hantering av AI-genererat inneh\u00e5ll skulle ocks\u00e5 vara till hj\u00e4lp f\u00f6r att f\u00f6rhindra att det av misstag f\u00f6rorenar utbildningsdataset. Det skulle vara mycket knepigt, eftersom AI-genererat inneh\u00e5ll blir om\u00f6jligt att uppt\u00e4cka.\u00a0<\/span><\/p>\n

Forskarna f\u00f6resl\u00e5r fyra huvudsakliga l\u00f6sningar:<\/span><\/p>\n