{"id":9376,"date":"2024-01-20T16:18:52","date_gmt":"2024-01-20T16:18:52","guid":{"rendered":"https:\/\/dailyai.com\/?p=9376"},"modified":"2024-01-26T12:21:52","modified_gmt":"2024-01-26T12:21:52","slug":"the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nb\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/","title":{"rendered":"University of Chicagos Nightshade er utviklet for \u00e5 forgifte AI-modeller"},"content":{"rendered":"

En gruppe Chicago-baserte utviklere har utstyrt kunstnere med Nightshade, en metode for \u00e5 sl\u00e5 tilbake mot uetisk datapraksis.<\/strong><\/p>\n

Nightshade er et sofistikert verkt\u00f8y som er utviklet for \u00e5 beskytte digitale kunstverk mot uautorisert bruk i AI-trening ved \u00e5 introdusere \"giftige\" pr\u00f8ver. <\/span><\/p>\n

Disse endringene er umerkelige for det menneskelige \u00f8yet, men forstyrrer den kunstige intelligensens l\u00e6ringsprosess og f\u00f8rer til feilaktige assosiasjoner og responser. <\/span><\/p>\n

Den <\/span>skriver forskerne<\/span><\/a>\"Menneske\u00f8yne kan se et skyggelagt bilde av en ku p\u00e5 et gr\u00f8nt jorde stort sett uforandret, men en AI-modell kan se en stor skinnveske som ligger i gresset.\"\u00a0<\/span><\/p>\n

Effekten akkumuleres, s\u00e5 jo flere \"forgiftede\" bilder som havner i et datasett, desto mer svekkes modellens ytelse.<\/p>\n

\"Nightshade
Hvordan Nightshade-giftangrep fungerer. Kilde: Universitetet i Chicago via ArXiv<\/a><\/figcaption><\/figure>\n

Dette verkt\u00f8yet kommer i tillegg til University of Chicagos tidligere kreasjon, Glaze, som ogs\u00e5 hjelper kunstnere med \u00e5 bekjempe dataskraping. \"Glaze kan endre ting som farger og penselstr\u00f8k, og presentere en annen kunstnerisk stil enn det som faktisk er der\", forklarer utviklerne.<\/span><\/p>\n

Nightshade har imidlertid en annen tiln\u00e6rming enn Glaze. \"Mens Glaze var et defensivt verkt\u00f8y, er Nightshade designet for \u00e5 v\u00e6re et offensivt verkt\u00f8y\", sier teamet.\u00a0<\/span><\/p>\n

\n

Jeg er veldig glad for \u00e5 kunne dele at \"Artifact\" har blitt Glazed og Nightshaded av @TheGlazeProject<\/a> og for et perfekt verk til det ogs\u00e5. Dette er et maleri om generativ AI som kannibaliserer den autentiske stemmen til menneskelige kreat\u00f8rer. N\u00e5r dette bildet skrapes for trening, vel ... pic.twitter.com\/0VNFIyabc2<\/a><\/p>\n

- Kelly McKernan (@Kelly_McKernan) 14. januar 2024<\/a><\/p><\/blockquote>\n