University of Chicagos dataforgiftningsv\u00e6rkt\u00f8j, Nightshade, samlede over 250.000 downloads inden for bare fem dage efter sin debut den 18. januar 2024.\u00a0<\/b><\/p>\n
Nightshade er designet til at styrke billedkunstnere i kampen mod uautoriseret brug af deres arbejde af AI-modeller og tilbyder en ny tilgang ved at \"forgifte\" modeller og effektivt forstyrre deres evne til at l\u00e6re af de billeder, de er tr\u00e6net p\u00e5.<\/span><\/p>\n Denne proces <\/span>fungerer ved subtilt at \u00e6ndre billeder p\u00e5 pixelniveau<\/span><\/a>hvilket f\u00e5r dem til at se anderledes ud end AI-modeller uden at g\u00e5 p\u00e5 kompromis med deres visuelle integritet for det menneskelige \u00f8je.\u00a0<\/span><\/p>\n N\u00e5r en AI-model tr\u00e6nes p\u00e5 forgiftede billeder, bliver dens output fejlbeh\u00e6ftet, hvilket effektivt beskytter kunstnere mod data scraping p\u00e5 lang sigt. <\/span><\/p>\n AI-udviklere vil gerne undg\u00e5 at skade deres modeller ved at tr\u00e6ne p\u00e5 forgiftede billeder, s\u00e5 det l\u00e6gger bolden over p\u00e5 deres banehalvdel.<\/span><\/p>\n De vil enten udvikle en l\u00f8sning eller \u00e6ndre deres dataskrabningspraksis for at undg\u00e5 copyright-v\u00e6rker, der sandsynligvis vil blive forgiftet.\u00a0<\/span><\/p>\n Nightshade fungerer bedst, n\u00e5r den bruges i stor skala - jo flere forgiftede billeder, der finder vej til en AI-model, desto st\u00e6rkere er virkningen.\u00a0<\/span><\/p>\n Hvis hvert billede i et datas\u00e6t i teorien var forgiftet, ville AI-modellen have sv\u00e6rt ved at generere noget sammenh\u00e6ngende - dens output ville v\u00e6re et uj\u00e6vnt rod.\u00a0<\/span><\/p>\n P\u00e5 en lavere skala manipulerer forgiftede billeder modellen til at l\u00e6re falske associationer, hvilket betyder, at en opfordring til at se en \"kat p\u00e5 en sky\" kan give noget, der ligner \"en h\u00e5ndtaske p\u00e5 en mark\".\u00a0<\/span><\/p>\n AI-virksomheder har allerede store m\u00e6ngder data lige ved h\u00e5nden, men hvis de ikke opbygger nye, moderne datas\u00e6t, vil modellerne til sidst miste kontakten med virkeligheden.<\/p>\n Ben Zhao, projektleder og professor i datalogi p\u00e5 universitetet, udtrykte forbl\u00f8ffelse over v\u00e6rkt\u00f8jets modtagelse og sagde til <\/span>VentureBeat<\/span><\/a>\"Jeg undervurderede det stadig. Responsen overg\u00e5r simpelthen alt, hvad vi havde forestillet os.\"\u00a0<\/span><\/p>\n Dette blev gentaget i en erkl\u00e6ring fra teamet p\u00e5 de sociale medier, som fremh\u00e6vede den hidtil usete eftersp\u00f8rgsel: \"Eftersp\u00f8rgslen efter Nightshade har v\u00e6ret enorm\", sagde de og bem\u00e6rkede, at str\u00f8mmen af globale downloads kortvarigt havde overv\u00e6ldet universitetets netv\u00e6rksinfrastruktur, hvilket de i f\u00f8rste omgang troede kunne v\u00e6re et cyberangreb.\u00a0<\/span><\/p>\n Eftersp\u00f8rgslen efter nightshade har v\u00e6ret helt uh\u00f8rt. Globale foresp\u00f8rgsler har faktisk m\u00e6ttet vores campusnetv\u00e6rk. (Intet dos-angreb, bare legitime downloads). Vi tilf\u00f8jer to hurtige spejllinks til nightshade-bin\u00e6re filer.<\/p>\n Vind: https:\/\/t.co\/rodLkW0ivK<\/a> - Glaze p\u00e5 UChicago (@TheGlazeProject) 20. januar 2024<\/a><\/p><\/blockquote>\n\n
\nMac: https:\/\/t.co\/mEzciopGAE<\/a><\/p>\n