University of Chicagos dataförgiftningsverktyg Nightshade laddades ner över 250.000 gånger på bara fem dagar efter lanseringen den 18 januari 2024.
Nightshade är utformad för att stärka bildkonstnärer i kampen mot obehörig användning av deras verk av AI-modeller och erbjuder ett nytt tillvägagångssätt genom att "förgifta" modeller och effektivt störa deras förmåga att lära sig av de bilder de tränas på.
Denna process fungerar genom att subtilt ändra bilder på pixelnivåvilket gör att de ser annorlunda ut för AI-modeller utan att kompromissa med deras visuella integritet för det mänskliga ögat.
När en AI-modell tränas på förgiftade bilder blir dess resultat felaktiga, vilket effektivt skyddar artister från dataskrapning på lång sikt.
AI-utvecklare kommer att vilja undvika att skada sina modeller genom att träna på förgiftade bilder, så det här lägger bollen på deras planhalva.
De kommer antingen att konstruera en lösning eller ändra sina metoder för dataskrapning för att undvika upphovsrättsskyddade verk som sannolikt kommer att förgiftas.
Nightshade fungerar bäst när den används i stor skala - ju fler förgiftade bilder som hamnar i en AI-modell, desto starkare blir effekten.
Om, i teorin, varje bild i ett dataset var förgiftad, skulle AI-modellen ha svårt att generera något sammanhängande - dess resultat skulle vara en enda röra.
På en lägre skala manipulerar förgiftade bilder modellen att lära sig falska associationer, vilket innebär att en uppmaning om en "katt på ett moln" kan ge något som ser ut som "en handväska på ett fält".
AI-företagen har redan stora mängder data till hands, men om de inte lyckas bygga upp nya, moderna dataset kommer modellerna så småningom att tappa kontakten med verkligheten.
Ben Zhao, projektledare och professor i datavetenskap vid universitetet, uttryckte förvåning över verktygets mottagande och sade till VentureBeat"Jag underskattade det fortfarande. Gensvaret är helt enkelt bortom allt vi kunnat föreställa oss."
Detta upprepades i ett teamuttalande på sociala medier, som lyfte fram den oöverträffade efterfrågan: "Efterfrågan på Nightshade har varit skyhög", sa de och noterade att översvämningen av globala nedladdningar tillfälligt hade överväldigat universitetets nätverksinfrastruktur, vilket de ursprungligen trodde kunde vara en cyberattack.
Efterfrågan på nightshade har varit skyhög. Globala förfrågningar har faktiskt mättat vår campus nätverkslänk. (Ingen dos-attack, bara legitima nedladdningar). Vi lägger till två snabba spegellänkar för nightshade-binärfiler.
Vinna: https://t.co/rodLkW0ivK
Mac: https://t.co/mEzciopGAE- Glaze vid UChicago (@TheGlazeProject) 20 januari 2024
Verktyget är det senaste i en serie av insatser från teamet, efter Glaze, ett annat verktyg som syftar till att vilseleda AI-modeller om ett konstverks stil. Utvecklarna utforskar för närvarande sätt att integrera Nightshade och Glaze, vilket erbjuder ett skiktat försvar för digitalt innehåll.
Nightshade är ett ganska komplext och resurskrävande program som kräver en rejäl dator för att köras.
Att förgifta flera bilder är också tidskrävande, men när det väl är gjort är det gjort. Användargränssnittet för Nightshade är inte särskilt iögonfallande, men det är ändå ganska intuitivt och guidar användarna genom processen med enkla inställningar och renderar utdata inom en tidsram på 30 till 180 minuter, beroende på de valda parametrarna.
Konstnärer och teknikentusiaster använder verktyget, och vissa förespråkar en utbredd användning av Nightshade på allt personligt digitalt innehåll för att späda ut datapoolen för AI-modeller. Styrka i antal, som man säger.
Den motreaktion från konstnärer mot AI-utvecklare som använder upphovsrättsdata har varit enorm i år, med konstnärer från alla delar av det kreativa spektrumet som samlats på X och andra sociala medieplattformar och lyssnat på uppmaningar från förespråkare som Reid Southen och Jon Lam.
250 000 nedladdningar för Nightshade! Låt oss Shade/Glaze och ladda upp. Nedladdning är bara det första steget!! Grattis till @TheGlazeProject
ladda ner här! Börja förgifta din konst NU!!!https://t.co/Y45iGlF6cyhttps://t.co/uiGfBVwFRu
- Jon Lam #CreateDontScrape (@JonLamArt) 30 januari 2024
Det är inte bara konstnärer som AI-utvecklare måste oroa sig för - de kämpar också mot en rad stämningar om upphovsrätt och kämpar ökande energibehov och den hotande bristen på halvledare.
Även om Nightshade fortfarande är komplicerat att använda finns det planer på att integrera det med den sociala applikationen Cara, som för närvarande är i öppen betaversion, vilket tyder på en bredare användning.
Så småningom skulle Nightshade kunna hostas helt i molnet, vilket skulle göra den mycket tillgänglig.
I takt med att det digitala landskapet fortsätter att utvecklas utgör verktyg som Nightshade en teknisk lösning och en symbol för den pågående kampen om kontroll och respekt i AI-eran.
Detta är ytterligare ett "AI-race" i en bransch som just nu präglas av spänningar.
