Lo strumento di avvelenamento dei dati dell'Università di Chicago, Nightshade, ha accumulato oltre 250.000 download in soli cinque giorni dal suo debutto, il 18 gennaio 2024.
Progettato per aiutare gli artisti visivi nella lotta contro l'uso non autorizzato delle loro opere da parte dei modelli di intelligenza artificiale, Nightshade offre un approccio innovativo "avvelenando" i modelli, interrompendo di fatto la loro capacità di apprendere dalle immagini su cui sono stati addestrati.
Questo processo opera alterando sottilmente le immagini a livello di pixelper farli apparire diversi dai modelli di IA senza compromettere la loro integrità visiva per l'occhio umano.
Quando un modello di intelligenza artificiale viene addestrato su immagini avvelenate, i suoi risultati diventano difettosi, proteggendo efficacemente gli artisti dal data scraping a lungo termine.
Gli sviluppatori di IA vorranno evitare di danneggiare i loro modelli addestrandosi su immagini avvelenate, quindi la palla passa a loro.
O elaboreranno una soluzione o modificheranno le loro pratiche di scraping dei dati per evitare le opere protette da copyright che potrebbero essere avvelenate.
Nightshade funziona al meglio se usato in scala: più immagini avvelenate entrano in un modello di IA, più forte è l'impatto.
Se, in teoria, ogni immagine di un set di dati fosse avvelenata, il modello di intelligenza artificiale farebbe fatica a generare qualcosa di coerente: i suoi risultati sarebbero un pasticcio.
Su una scala più bassa, le immagini avvelenate manipolano il modello in modo da fargli apprendere false associazioni, per cui una richiesta di "gatto su una nuvola" potrebbe produrre qualcosa che assomiglia a "una borsa in un campo".
Sebbene le aziende di IA dispongano già di grandi quantità di dati, se non riescono a costruire nuove serie di dati contemporanei, i modelli finiranno per perdere il contatto con la realtà.
Ben Zhao, responsabile del progetto e professore di informatica presso l'università, ha espresso stupore per l'accoglienza dello strumento, dichiarando a VentureBeat, "L'avevo ancora sottovalutato. La risposta è semplicemente al di là di ogni nostra immaginazione".
Questo è stato ribadito in una dichiarazione del team sui social media, che ha evidenziato una richiesta senza precedenti: "La richiesta di Nightshade è stata fuori scala", hanno dichiarato, sottolineando che l'inondazione di download globali ha momentaneamente sovraccaricato l'infrastruttura di rete dell'università, che inizialmente aveva pensato a un attacco informatico.
La domanda di nightshade è stata altissima. Le richieste globali hanno saturato il collegamento alla rete del campus. (Nessun attacco dos, solo download legittimi). Stiamo aggiungendo due link mirror veloci per i file binari di nightshade.
Vincere: https://t.co/rodLkW0ivK
Mac: https://t.co/mEzciopGAE- Glaze presso UChicago (@TheGlazeProject) 20 gennaio 2024
Lo strumento è l'ultimo di una serie di iniziative del team, dopo Glaze, un altro strumento che mira a ingannare i modelli di intelligenza artificiale sullo stile di un'opera d'arte. Gli sviluppatori stanno attualmente esplorando modi per integrare Nightshade e Glaze, offrendo una difesa a più livelli per i contenuti digitali.
Nightshade è piuttosto complesso e richiede risorse, e per funzionare è necessario un computer robusto.
Anche l'avvelenamento di più immagini richiede molto tempo, ma una volta fatto, è fatto. L'interfaccia utente di Nightshade, pur non essendo particolarmente accattivante, è tutto sommato abbastanza intuitiva, guidando gli utenti attraverso il processo con impostazioni semplici e renderizzando i risultati in un tempo compreso tra 30 e 180 minuti, a seconda dei parametri scelti.
Artisti e appassionati di tecnologia stanno utilizzando lo strumento e alcuni sostengono l'uso diffuso di Nightshade su tutti i contenuti digitali personali per diluire il pool di dati per i modelli di intelligenza artificiale. L'unione fa la forza, come si suol dire.
Il la rivincita degli artisti contro gli sviluppatori di IA che utilizzano i dati sul copyright è stata immensa quest'anno, con artisti di tutti i settori dello spettro creativo che si sono riuniti su X e su altre piattaforme di social media, ascoltando l'appello di sostenitori come Reid Southen e Jon Lam.
250K download per Nightshade!!! Facciamo Shade/Glaze e carichiamo. Il download è solo il primo passo! Congratulazioni a @TheGlazeProject
scarica qui! Inizia ad avvelenare la tua arte ORA!!!https://t.co/Y45iGlF6cyhttps://t.co/uiGfBVwFRu
- Jon Lam #CreateDontScrape (@JonLamArt) 30 gennaio 2024
Gli sviluppatori di intelligenza artificiale non devono preoccuparsi solo degli artisti, ma anche di una serie di cause legali per il diritto d'autore e di lottare aumento della domanda di energia e l'imminente carenza di semiconduttori.
Sebbene Nightshade presenti ancora una certa complessità d'uso, è prevista l'integrazione con l'applicazione sociale e di portafoglio Cara, attualmente in open beta, il che lascia presagire un'adozione più ampia.
Alla fine, Nightshade potrebbe essere ospitato completamente nel cloud, rendendolo altamente accessibile.
Mentre il panorama digitale continua a evolversi, strumenti come Nightshade rappresentano una soluzione tecnica e un simbolo della lotta in corso per il controllo e il rispetto nell'era dell'intelligenza artificiale.
Si tratta di un'altra "corsa all'intelligenza artificiale" in un settore in cui la tensione è altissima.
