{"id":13599,"date":"2024-07-28T17:00:03","date_gmt":"2024-07-28T17:00:03","guid":{"rendered":"https:\/\/dailyai.com\/?p=13599"},"modified":"2024-07-29T09:48:32","modified_gmt":"2024-07-29T09:48:32","slug":"ai-models-face-collapse-when-trained-on-ai-generated-data-study-finds","status":"publish","type":"post","link":"https:\/\/dailyai.com\/da\/2024\/07\/ai-models-face-collapse-when-trained-on-ai-generated-data-study-finds\/","title":{"rendered":"AI-modeller st\u00e5r over for kollaps, n\u00e5r de tr\u00e6nes p\u00e5 AI-genererede data, viser unders\u00f8gelse"},"content":{"rendered":"

En ny unders\u00f8gelse offentliggjort i Nature afsl\u00f8rer, at AI-modeller, herunder store sprogmodeller (LLM'er), hurtigt forringes i kvalitet, n\u00e5r de tr\u00e6nes p\u00e5 data, der er genereret af tidligere AI-modeller.\u00a0<\/b><\/p>\n

Dette f\u00e6nomen, som kaldes \"modelkollaps\", kan forringe kvaliteten af fremtidige AI-modeller, is\u00e6r n\u00e5r mere AI-genereret indhold frigives p\u00e5 internettet og derfor genbruges og genanvendes i modeltr\u00e6ningsdata.\u00a0<\/span><\/p>\n

Forskere fra University of Cambridge, University of Oxford og andre institutioner unders\u00f8gte dette f\u00e6nomen. udf\u00f8rte eksperimenter<\/a> der viser, at n\u00e5r AI-modeller gentagne gange tr\u00e6nes p\u00e5 data, der er produceret af tidligere versioner af dem selv, begynder de at generere meningsl\u00f8se resultater.\u00a0<\/span><\/p>\n

Dette blev observeret p\u00e5 tv\u00e6rs af forskellige typer AI-modeller, herunder sprogmodeller, variationelle autokodere og gaussiske blandingsmodeller.<\/span><\/p>\n

I et vigtigt eksperiment med sprogmodeller finjusterede teamet OPT-125m-modellen p\u00e5 WikiText-2-datas\u00e6ttet og brugte den derefter til at generere ny tekst. <\/span><\/p>\n

Denne AI-genererede tekst blev derefter brugt til at tr\u00e6ne den n\u00e6ste \"generation\" af modellen, og processen blev gentaget igen og igen.\u00a0<\/span><\/p>\n

Det varede ikke l\u00e6nge, f\u00f8r modellerne begyndte at producere stadig mere usandsynlige og meningsl\u00f8se tekster.\u00a0<\/span><\/p>\n

I niende generation genererede modellen komplet volapyk, som f.eks. at n\u00e6vne flere ikke-eksisterende typer af \"jackrabbits\", n\u00e5r den blev spurgt om engelske kirket\u00e5rne.<\/span><\/p>\n

Forskerne observerede ogs\u00e5, hvordan modeller mister information om \"sj\u00e6ldne\" eller sj\u00e6ldne begivenheder, f\u00f8r de kollapser helt.\u00a0<\/span><\/p>\n

Dette er alarmerende, da sj\u00e6ldne begivenheder ofte vedr\u00f8rer marginaliserede grupper eller afvigere. Uden dem risikerer modeller at koncentrere deres svar p\u00e5 tv\u00e6rs af et sn\u00e6vert spektrum af ideer og overbevisninger og dermed forst\u00e6rke fordomme.<\/span><\/p>\n

AI-virksomheder er klar over dette, og derfor indg\u00e5r de aftaler med nyhedsfirmaer og udgivere for at sikre en j\u00e6vn str\u00f8m af menneskeskrevet, relevant information af h\u00f8j kvalitet.\u00a0<\/span><\/p>\n

\"Budskabet er, at vi skal v\u00e6re meget forsigtige med, hvad der ender i vores tr\u00e6ningsdata\". <\/span>unders\u00f8gelse<\/span> medforfatter Zakhar Shumaylov fra University of Cambridge <\/span>fortalte naturen<\/span><\/a>. \"Ellers vil det beviseligt altid g\u00e5 galt.\"<\/span><\/p>\n

Denne effekt forst\u00e6rkes af en nylig <\/span>unders\u00f8gelse<\/span><\/a> af Dr. Richard Fletcher, forskningsdirekt\u00f8r ved Reuters Institute for the Study of Journalism, viste, at n\u00e6sten halvdelen (48%) af de mest popul\u00e6re nyhedssider p\u00e5 verdensplan nu er utilg\u00e6ngelige for OpenAI's crawlere, mens Googles AI-crawlere er blokeret af 24% af siderne.<\/span><\/p>\n

Som f\u00f8lge heraf har AI-modeller adgang til en mindre pulje af nyere data af h\u00f8j kvalitet, end de havde engang, hvilket \u00f8ger risikoen for at tr\u00e6ne p\u00e5 d\u00e5rlige eller for\u00e6ldede data.\u00a0<\/span><\/p>\n

L\u00f8sninger til modelkollaps<\/h2>\n

Med hensyn til l\u00f8sninger siger forskerne, at det er afg\u00f8rende for AI's fremtid at bevare adgangen til originale, menneskeskabte datakilder.\u00a0<\/span><\/p>\n

Sporing og styring af AI-genereret indhold ville ogs\u00e5 v\u00e6re nyttigt for at forhindre, at det ved et uheld forurener tr\u00e6ningsdatas\u00e6t. Det ville v\u00e6re meget vanskeligt, da AI-genereret indhold er ved at blive umuligt at opdage.\u00a0<\/span><\/p>\n

Forskerne peger p\u00e5 fire hovedl\u00f8sninger:<\/span><\/p>\n