{"id":9376,"date":"2024-01-20T16:18:52","date_gmt":"2024-01-20T16:18:52","guid":{"rendered":"https:\/\/dailyai.com\/?p=9376"},"modified":"2024-01-26T12:21:52","modified_gmt":"2024-01-26T12:21:52","slug":"the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/sv\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/","title":{"rendered":"University of Chicagos Nightshade \u00e4r utformad f\u00f6r att f\u00f6rgifta AI-modeller"},"content":{"rendered":"

En grupp Chicago-baserade utvecklare har utrustat konstn\u00e4rer med Nightshade, en metod f\u00f6r att sl\u00e5 tillbaka mot oetiska datapraktiker.<\/strong><\/p>\n

Nightshade \u00e4r ett sofistikerat verktyg som \u00e4r utformat f\u00f6r att skydda digitala konstverk fr\u00e5n obeh\u00f6rig anv\u00e4ndning i AI-tr\u00e4ning genom att introducera \"giftiga\" prover. <\/span><\/p>\n

Dessa f\u00f6r\u00e4ndringar \u00e4r om\u00e4rkliga f\u00f6r det m\u00e4nskliga \u00f6gat men st\u00f6r en AI:s inl\u00e4rningsprocess och leder till felaktiga associationer och svar. <\/span><\/p>\n

Den <\/span>forskare skriver<\/span><\/a>\"Ett m\u00e4nskligt \u00f6ga kan se en skuggad bild av en ko p\u00e5 ett gr\u00f6nt f\u00e4lt i stort sett of\u00f6r\u00e4ndrad, men en AI-modell kan se en stor l\u00e4derv\u00e4ska som ligger i gr\u00e4set.\"\u00a0<\/span><\/p>\n

Effekten ackumuleras, s\u00e5 ju fler \"f\u00f6rgiftade\" bilder som hamnar i ett dataset, desto mer f\u00f6rs\u00e4mras modellens prestanda.<\/p>\n

\"Nightshade
Hur Nightshade giftiga attacker fungerar. K\u00e4lla: University of Chicago via ArXiv<\/a><\/figcaption><\/figure>\n

Detta verktyg kommer i till\u00e4gg till University of Chicagos tidigare skapelse, Glaze, som ocks\u00e5 hj\u00e4lper konstn\u00e4rer att bek\u00e4mpa dataskrapning. \"Glaze kan \u00e4ndra saker som f\u00e4rger och penseldrag och presentera en annan konstn\u00e4rlig stil \u00e4n vad som faktiskt finns d\u00e4r\", f\u00f6rklarar utvecklarna.<\/span><\/p>\n

Nightshade avviker dock fr\u00e5n Glaze i tillv\u00e4gag\u00e5ngss\u00e4tt. \"Medan Glaze var ett defensivt verktyg \u00e4r Nightshade utformat f\u00f6r att vara ett offensivt verktyg\", s\u00e4ger teamet.\u00a0<\/span><\/p>\n

\n

Jag \u00e4r v\u00e4ldigt glad \u00f6ver att kunna ber\u00e4tta att \"Artifact\" har blivit Glazed och Nightshaded av @TheGlazeProject<\/a> och vilket perfekt verk f\u00f6r det ocks\u00e5. Det h\u00e4r \u00e4r en m\u00e5lning om generativ AI som kannibaliserar den autentiska r\u00f6sten hos m\u00e4nskliga kreat\u00f6rer. N\u00e4r den h\u00e4r bilden skrapas fram f\u00f6r tr\u00e4ning, ja... pic.twitter.com\/0VNFIyabc2<\/a><\/p>\n

- Kelly McKernan (@Kelly_McKernan) 14 januari 2024<\/a><\/p><\/blockquote>\n