University of Chicagos dataforgiftningsværktøj, Nightshade, samlede over 250.000 downloads inden for bare fem dage efter sin debut den 18. januar 2024.
Nightshade er designet til at styrke billedkunstnere i kampen mod uautoriseret brug af deres arbejde af AI-modeller og tilbyder en ny tilgang ved at "forgifte" modeller og effektivt forstyrre deres evne til at lære af de billeder, de er trænet på.
Denne proces fungerer ved subtilt at ændre billeder på pixelniveauhvilket får dem til at se anderledes ud end AI-modeller uden at gå på kompromis med deres visuelle integritet for det menneskelige øje.
Når en AI-model trænes på forgiftede billeder, bliver dens output fejlbehæftet, hvilket effektivt beskytter kunstnere mod data scraping på lang sigt.
AI-udviklere vil gerne undgå at skade deres modeller ved at træne på forgiftede billeder, så det lægger bolden over på deres banehalvdel.
De vil enten udvikle en løsning eller ændre deres dataskrabningspraksis for at undgå copyright-værker, der sandsynligvis vil blive forgiftet.
Nightshade fungerer bedst, når den bruges i stor skala - jo flere forgiftede billeder, der finder vej til en AI-model, desto stærkere er virkningen.
Hvis hvert billede i et datasæt i teorien var forgiftet, ville AI-modellen have svært ved at generere noget sammenhængende - dens output ville være et ujævnt rod.
På en lavere skala manipulerer forgiftede billeder modellen til at lære falske associationer, hvilket betyder, at en opfordring til at se en "kat på en sky" kan give noget, der ligner "en håndtaske på en mark".
AI-virksomheder har allerede store mængder data lige ved hånden, men hvis de ikke opbygger nye, moderne datasæt, vil modellerne til sidst miste kontakten med virkeligheden.
Ben Zhao, projektleder og professor i datalogi på universitetet, udtrykte forbløffelse over værktøjets modtagelse og sagde til VentureBeat"Jeg undervurderede det stadig. Responsen overgår simpelthen alt, hvad vi havde forestillet os."
Dette blev gentaget i en erklæring fra teamet på de sociale medier, som fremhævede den hidtil usete efterspørgsel: "Efterspørgslen efter Nightshade har været enorm", sagde de og bemærkede, at strømmen af globale downloads kortvarigt havde overvældet universitetets netværksinfrastruktur, hvilket de i første omgang troede kunne være et cyberangreb.
Efterspørgslen efter nightshade har været helt uhørt. Globale forespørgsler har faktisk mættet vores campusnetværk. (Intet dos-angreb, bare legitime downloads). Vi tilføjer to hurtige spejllinks til nightshade-binære filer.
Vind: https://t.co/rodLkW0ivK
Mac: https://t.co/mEzciopGAE- Glaze på UChicago (@TheGlazeProject) 20. januar 2024
Værktøjet er det seneste i en række tiltag fra holdet efter Glaze, et andet værktøj, der har til formål at vildlede AI-modeller om et kunstværks stil. Udviklerne undersøger i øjeblikket, hvordan de kan integrere Nightshade og Glaze og tilbyde et lagdelt forsvar for digitalt indhold.
Nightshade er ret kompleks og ressourcekrævende og kræver en stor computer for at køre.
Det er også tidskrævende at forgifte flere billeder, men når det er gjort, så er det gjort. Selv om brugergrænsefladen til Nightshade ikke er særlig iøjnefaldende, er den alt i alt ret intuitiv og guider brugerne gennem processen med enkle indstillinger og gengiver output inden for en tidsramme på 30 til 180 minutter, afhængigt af de valgte parametre.
Kunstnere og teknologientusiaster bruger værktøjet, og nogle går ind for udbredt brug af Nightshade på alt personligt digitalt indhold for at udvande datapuljen til AI-modeller. Styrke i antal, som man siger.
Den Modstand fra kunstnere mod AI-udviklere, der bruger copyright-data, har været enorm i år, hvor kunstnere fra alle dele af det kreative spektrum har samlet sig på X og andre sociale medieplatforme og fulgt opråbet fra fortalere som Reid Southen og Jon Lam.
250K downloads for Nightshade!! Lad os Shade/Glaze og uploade. Downloading er kun det første skridt! Tillykke til @TheGlazeProject
download her! Begynd at forgifte din kunst NU!https://t.co/Y45iGlF6cyhttps://t.co/uiGfBVwFRu
- Jon Lam #CreateDontScrape (@JonLamArt) 30. januar 2024
Det er ikke kun kunstnere, som AI-udviklere skal bekymre sig om - de kæmper også mod en række Retssager om ophavsret og kæmper stigende energibehov og truende mangel på halvledere.
Selv om Nightshade stadig er kompleks at bruge, er der planer om at integrere den med den sociale og porteføljeapplikation Cara, som i øjeblikket er i åben beta, hvilket tyder på en bredere anvendelse.
Med tiden vil Nightshade kunne hostes fuldt ud i skyen, hvilket vil gøre den meget tilgængelig.
I takt med at det digitale landskab fortsætter med at udvikle sig, repræsenterer værktøjer som Nightshade en teknisk løsning og et symbol på den igangværende kamp for kontrol og respekt i AI-æraen.
Dette er endnu et "AI-kapløb" i en branche, der er præget af spændinger lige nu.
