University of Chicagos dataf\u00f6rgiftningsverktyg Nightshade laddades ner \u00f6ver 250.000 g\u00e5nger p\u00e5 bara fem dagar efter lanseringen den 18 januari 2024.\u00a0<\/b><\/p>\n
Nightshade \u00e4r utformad f\u00f6r att st\u00e4rka bildkonstn\u00e4rer i kampen mot obeh\u00f6rig anv\u00e4ndning av deras verk av AI-modeller och erbjuder ett nytt tillv\u00e4gag\u00e5ngss\u00e4tt genom att \"f\u00f6rgifta\" modeller och effektivt st\u00f6ra deras f\u00f6rm\u00e5ga att l\u00e4ra sig av de bilder de tr\u00e4nas p\u00e5.<\/span><\/p>\n Denna process <\/span>fungerar genom att subtilt \u00e4ndra bilder p\u00e5 pixelniv\u00e5<\/span><\/a>vilket g\u00f6r att de ser annorlunda ut f\u00f6r AI-modeller utan att kompromissa med deras visuella integritet f\u00f6r det m\u00e4nskliga \u00f6gat.\u00a0<\/span><\/p>\n N\u00e4r en AI-modell tr\u00e4nas p\u00e5 f\u00f6rgiftade bilder blir dess resultat felaktiga, vilket effektivt skyddar artister fr\u00e5n dataskrapning p\u00e5 l\u00e5ng sikt. <\/span><\/p>\n AI-utvecklare kommer att vilja undvika att skada sina modeller genom att tr\u00e4na p\u00e5 f\u00f6rgiftade bilder, s\u00e5 det h\u00e4r l\u00e4gger bollen p\u00e5 deras planhalva.<\/span><\/p>\n De kommer antingen att konstruera en l\u00f6sning eller \u00e4ndra sina metoder f\u00f6r dataskrapning f\u00f6r att undvika upphovsr\u00e4ttsskyddade verk som sannolikt kommer att f\u00f6rgiftas.\u00a0<\/span><\/p>\n Nightshade fungerar b\u00e4st n\u00e4r den anv\u00e4nds i stor skala - ju fler f\u00f6rgiftade bilder som hamnar i en AI-modell, desto starkare blir effekten.\u00a0<\/span><\/p>\n Om, i teorin, varje bild i ett dataset var f\u00f6rgiftad, skulle AI-modellen ha sv\u00e5rt att generera n\u00e5got sammanh\u00e4ngande - dess resultat skulle vara en enda r\u00f6ra.\u00a0<\/span><\/p>\n P\u00e5 en l\u00e4gre skala manipulerar f\u00f6rgiftade bilder modellen att l\u00e4ra sig falska associationer, vilket inneb\u00e4r att en uppmaning om en \"katt p\u00e5 ett moln\" kan ge n\u00e5got som ser ut som \"en handv\u00e4ska p\u00e5 ett f\u00e4lt\".\u00a0<\/span><\/p>\n AI-f\u00f6retagen har redan stora m\u00e4ngder data till hands, men om de inte lyckas bygga upp nya, moderna dataset kommer modellerna s\u00e5 sm\u00e5ningom att tappa kontakten med verkligheten.<\/p>\n Ben Zhao, projektledare och professor i datavetenskap vid universitetet, uttryckte f\u00f6rv\u00e5ning \u00f6ver verktygets mottagande och sade till <\/span>VentureBeat<\/span><\/a>\"Jag underskattade det fortfarande. Gensvaret \u00e4r helt enkelt bortom allt vi kunnat f\u00f6rest\u00e4lla oss.\"\u00a0<\/span><\/p>\n Detta upprepades i ett teamuttalande p\u00e5 sociala medier, som lyfte fram den o\u00f6vertr\u00e4ffade efterfr\u00e5gan: \"Efterfr\u00e5gan p\u00e5 Nightshade har varit skyh\u00f6g\", sa de och noterade att \u00f6versv\u00e4mningen av globala nedladdningar tillf\u00e4lligt hade \u00f6verv\u00e4ldigat universitetets n\u00e4tverksinfrastruktur, vilket de ursprungligen trodde kunde vara en cyberattack.\u00a0<\/span><\/p>\n Efterfr\u00e5gan p\u00e5 nightshade har varit skyh\u00f6g. Globala f\u00f6rfr\u00e5gningar har faktiskt m\u00e4ttat v\u00e5r campus n\u00e4tverksl\u00e4nk. (Ingen dos-attack, bara legitima nedladdningar). Vi l\u00e4gger till tv\u00e5 snabba spegell\u00e4nkar f\u00f6r nightshade-bin\u00e4rfiler.<\/p>\n Vinna: https:\/\/t.co\/rodLkW0ivK<\/a> - Glaze vid UChicago (@TheGlazeProject) 20 januari 2024<\/a><\/p><\/blockquote>\n\n
\nMac: https:\/\/t.co\/mEzciopGAE<\/a><\/p>\n