University of Chicagos dataforgiftningsverktøy, Nightshade, ble lastet ned over 250 000 ganger i løpet av bare fem dager etter at det ble lansert 18. januar 2024.
Nightshade er utviklet for å styrke billedkunstnere i kampen mot uautorisert bruk av deres arbeid av AI-modeller, og tilbyr en ny tilnærming ved å "forgifte" modeller, noe som effektivt forstyrrer deres evne til å lære fra bildene de er trent på.
Denne prosessen fungerer ved å subtilt endre bilder på pikselnivåDet gjør at de ser annerledes ut enn AI-modeller, uten at det går ut over den visuelle integriteten for det menneskelige øyet.
Når en AI-modell trenes opp på forgiftede bilder, blir resultatene feilaktige, noe som effektivt beskytter kunstnere mot dataskraping på lang sikt.
AI-utviklere vil unngå å skade modellene sine ved å trene på forgiftede bilder, så dette legger ballen på deres banehalvdel.
De vil enten utvikle en løsning eller endre dataskrapingspraksisen sin for å unngå at opphavsrettslige verk blir forgiftet.
Nightshade fungerer best når den brukes i stor skala - jo flere forgiftede bilder som finner veien inn i en AI-modell, desto sterkere blir effekten.
Hvis hvert eneste bilde i et datasett i teorien var forgiftet, ville AI-modellen slite med å generere noe som helst sammenhengende - utdataene ville være et uoversiktlig rot.
På en lavere skala manipulerer forgiftede bilder modellen til å lære seg falske assosiasjoner, noe som betyr at en melding om en "katt på en sky" kan produsere noe som ser ut som "en håndveske på et jorde".
Selv om AI-selskapene allerede har store mengder data tilgjengelig, vil modellene etter hvert miste kontakten med virkeligheten hvis de ikke klarer å bygge opp nye, moderne datasett.
Ben Zhao, prosjektleder og professor i informatikk ved universitetet, uttrykte forbløffelse over mottakelsen av verktøyet, og uttalte til VentureBeat"Jeg undervurderte det likevel. Responsen er rett og slett større enn noe vi hadde forestilt oss."
Dette ble gjentatt i en uttalelse fra teamet på sosiale medier, som fremhevet den enestående etterspørselen: "Etterspørselen etter Nightshade har vært rekordstor", skrev de, og bemerket at flommen av globale nedlastinger midlertidig hadde overveldet universitetets nettverksinfrastruktur, noe de først trodde kunne være et cyberangrep.
Etterspørselen etter nightshade har vært skyhøy. Globale forespørsler har faktisk mettet campusnettverket vårt. (Ingen dos-angrep, bare legitime nedlastinger). Vi legger til to raske speilkoblinger for nightshade binære filer.
Vinn: https://t.co/rodLkW0ivK
Mac: https://t.co/mEzciopGAE- Glaze ved UChicago (@TheGlazeProject) 20. januar 2024
Verktøyet er det siste i rekken av en rekke tiltak fra teamet, etter Glaze, et annet verktøy som tar sikte på å villede AI-modeller om et kunstverks stil. Utviklerne utforsker for tiden måter å integrere Nightshade og Glaze på, slik at de kan tilby et lagdelt forsvar for digitalt innhold.
Nightshade er ganske komplekst og ressurskrevende, og krever en stor datamaskin for å kjøre.
Det er også tidkrevende å forgifte flere bilder, men når det først er gjort, så er det gjort. Selv om brukergrensesnittet for Nightshade ikke er spesielt iøynefallende, er det i det store og hele ganske intuitivt, og guider brukerne gjennom prosessen med enkle innstillinger og gjengivelse av resultater innen en tidsramme på 30 til 180 minutter, avhengig av de valgte parameterne.
Kunstnere og teknologientusiaster bruker verktøyet, og noen tar til orde for utbredt bruk av Nightshade på alt personlig digitalt innhold for å utvanne datagrunnlaget for AI-modeller. Styrke i antall, som de sier.
Den kunstnerne slår tilbake mot AI-utviklere som bruker opphavsrettslige data, har vært enorm i år, og kunstnere fra alle deler av det kreative spekteret har samlet seg på X og andre sosiale medieplattformer og fulgt oppfordringen fra forkjempere som Reid Southen og Jon Lam.
250 000 nedlastinger for Nightshade! La oss Shade/Glaze og laste opp. Nedlasting er bare det første skrittet! Gratulerer til @TheGlazeProject
last ned her! Begynn å forgifte kunsten din NÅ!https://t.co/Y45iGlF6cyhttps://t.co/uiGfBVwFRu
- Jon Lam #CreateDontScrape (@JonLamArt) 30. januar 2024
Det er ikke bare kunstnere som AI-utviklere må bekymre seg for - de kjemper også mot en rekke søksmål om opphavsrett og kjemper økende energibehov og truende mangel på halvledere.
Selv om Nightshade fortsatt er noe komplisert å bruke, er det planer om å integrere den med den sosiale applikasjonen og porteføljeapplikasjonen Cara, som for tiden er i åpen betaversjon, noe som tyder på at den vil bli tatt i bruk i større skala.
Etter hvert kan Nightshade bli fullstendig skybasert, noe som gjør den svært tilgjengelig.
Etter hvert som det digitale landskapet fortsetter å utvikle seg, representerer verktøy som Nightshade en teknisk løsning og et symbol på den pågående kampen for kontroll og respekt i AI-æraen.
Dette er nok et "AI-kappløp" i en bransje som er preget av spenning akkurat nå.
