University of Chicagos dataforgiftningsverkt\u00f8y, Nightshade, ble lastet ned over 250 000 ganger i l\u00f8pet av bare fem dager etter at det ble lansert 18. januar 2024.\u00a0<\/b><\/p>\n
Nightshade er utviklet for \u00e5 styrke billedkunstnere i kampen mot uautorisert bruk av deres arbeid av AI-modeller, og tilbyr en ny tiln\u00e6rming ved \u00e5 \"forgifte\" modeller, noe som effektivt forstyrrer deres evne til \u00e5 l\u00e6re fra bildene de er trent p\u00e5.<\/span><\/p>\n Denne prosessen <\/span>fungerer ved \u00e5 subtilt endre bilder p\u00e5 pikselniv\u00e5<\/span><\/a>Det gj\u00f8r at de ser annerledes ut enn AI-modeller, uten at det g\u00e5r ut over den visuelle integriteten for det menneskelige \u00f8yet.\u00a0<\/span><\/p>\n N\u00e5r en AI-modell trenes opp p\u00e5 forgiftede bilder, blir resultatene feilaktige, noe som effektivt beskytter kunstnere mot dataskraping p\u00e5 lang sikt. <\/span><\/p>\n AI-utviklere vil unng\u00e5 \u00e5 skade modellene sine ved \u00e5 trene p\u00e5 forgiftede bilder, s\u00e5 dette legger ballen p\u00e5 deres banehalvdel.<\/span><\/p>\n De vil enten utvikle en l\u00f8sning eller endre dataskrapingspraksisen sin for \u00e5 unng\u00e5 at opphavsrettslige verk blir forgiftet.\u00a0<\/span><\/p>\n Nightshade fungerer best n\u00e5r den brukes i stor skala - jo flere forgiftede bilder som finner veien inn i en AI-modell, desto sterkere blir effekten.\u00a0<\/span><\/p>\n Hvis hvert eneste bilde i et datasett i teorien var forgiftet, ville AI-modellen slite med \u00e5 generere noe som helst sammenhengende - utdataene ville v\u00e6re et uoversiktlig rot.\u00a0<\/span><\/p>\n P\u00e5 en lavere skala manipulerer forgiftede bilder modellen til \u00e5 l\u00e6re seg falske assosiasjoner, noe som betyr at en melding om en \"katt p\u00e5 en sky\" kan produsere noe som ser ut som \"en h\u00e5ndveske p\u00e5 et jorde\".\u00a0<\/span><\/p>\n Selv om AI-selskapene allerede har store mengder data tilgjengelig, vil modellene etter hvert miste kontakten med virkeligheten hvis de ikke klarer \u00e5 bygge opp nye, moderne datasett.<\/p>\n Ben Zhao, prosjektleder og professor i informatikk ved universitetet, uttrykte forbl\u00f8ffelse over mottakelsen av verkt\u00f8yet, og uttalte til <\/span>VentureBeat<\/span><\/a>\"Jeg undervurderte det likevel. Responsen er rett og slett st\u00f8rre enn noe vi hadde forestilt oss.\"\u00a0<\/span><\/p>\n Dette ble gjentatt i en uttalelse fra teamet p\u00e5 sosiale medier, som fremhevet den enest\u00e5ende ettersp\u00f8rselen: \"Ettersp\u00f8rselen etter Nightshade har v\u00e6rt rekordstor\", skrev de, og bemerket at flommen av globale nedlastinger midlertidig hadde overveldet universitetets nettverksinfrastruktur, noe de f\u00f8rst trodde kunne v\u00e6re et cyberangrep.\u00a0<\/span><\/p>\n Ettersp\u00f8rselen etter nightshade har v\u00e6rt skyh\u00f8y. Globale foresp\u00f8rsler har faktisk mettet campusnettverket v\u00e5rt. (Ingen dos-angrep, bare legitime nedlastinger). Vi legger til to raske speilkoblinger for nightshade bin\u00e6re filer.<\/p>\n Vinn: https:\/\/t.co\/rodLkW0ivK<\/a> - Glaze ved UChicago (@TheGlazeProject) 20. januar 2024<\/a><\/p><\/blockquote>\n\n
\nMac: https:\/\/t.co\/mEzciopGAE<\/a><\/p>\n