L'outil d'empoisonnement des donn\u00e9es de l'universit\u00e9 de Chicago, Nightshade, a \u00e9t\u00e9 t\u00e9l\u00e9charg\u00e9 plus de 250 000 fois dans les cinq jours qui ont suivi son lancement, le 18 janvier 2024.\u00a0<\/b><\/p>\n
Con\u00e7u pour permettre aux artistes visuels de lutter contre l'utilisation non autoris\u00e9e de leurs \u0153uvres par des mod\u00e8les d'IA, Nightshade propose une nouvelle approche en \"empoisonnant\" les mod\u00e8les, perturbant ainsi leur capacit\u00e9 \u00e0 apprendre \u00e0 partir des images sur lesquelles ils ont \u00e9t\u00e9 form\u00e9s.<\/span><\/p>\n Ce processus <\/span>fonctionne en modifiant subtilement les images au niveau du pixel<\/span><\/a>Ce qui les rend diff\u00e9rents des mod\u00e8les d'IA sans compromettre leur int\u00e9grit\u00e9 visuelle pour l'\u0153il humain.\u00a0<\/span><\/p>\n Lorsqu'un mod\u00e8le d'IA est entra\u00een\u00e9 sur des images empoisonn\u00e9es, ses r\u00e9sultats sont fauss\u00e9s, ce qui prot\u00e8ge efficacement les artistes contre le grattage de donn\u00e9es \u00e0 long terme. <\/span><\/p>\n Les d\u00e9veloppeurs d'IA voudront \u00e9viter d'endommager leurs mod\u00e8les en s'entra\u00eenant sur des images empoisonn\u00e9es, ce qui met la balle dans leur camp.<\/span><\/p>\n Ils mettront au point une solution ou modifieront leurs pratiques de r\u00e9cup\u00e9ration de donn\u00e9es afin d'\u00e9viter les \u0153uvres prot\u00e9g\u00e9es par le droit d'auteur susceptibles d'\u00eatre empoisonn\u00e9es.\u00a0<\/span><\/p>\n Le Nightshade fonctionne mieux lorsqu'il est utilis\u00e9 \u00e0 grande \u00e9chelle - plus il y a d'images empoisonn\u00e9es qui se retrouvent dans un mod\u00e8le d'IA, plus l'impact est fort.\u00a0<\/span><\/p>\n Si, en th\u00e9orie, chaque image d'un ensemble de donn\u00e9es \u00e9tait empoisonn\u00e9e, le mod\u00e8le d'IA aurait du mal \u00e0 g\u00e9n\u00e9rer quoi que ce soit de coh\u00e9rent - ses r\u00e9sultats seraient un v\u00e9ritable d\u00e9sordre.\u00a0<\/span><\/p>\n \u00c0 plus petite \u00e9chelle, les images empoisonn\u00e9es manipulent le mod\u00e8le pour qu'il apprenne de fausses associations, ce qui signifie qu'une image d'un \"chat sur un nuage\" peut produire quelque chose qui ressemble \u00e0 \"un sac \u00e0 main dans un champ\".\u00a0<\/span><\/p>\n Bien que les entreprises sp\u00e9cialis\u00e9es dans l'IA disposent d\u00e9j\u00e0 de grandes quantit\u00e9s de donn\u00e9es, si elles ne parviennent pas \u00e0 constituer de nouveaux ensembles de donn\u00e9es contemporains, les mod\u00e8les finiront par perdre le contact avec la r\u00e9alit\u00e9.<\/p>\n Ben Zhao, chef de projet et professeur d'informatique \u00e0 l'universit\u00e9, s'est \u00e9tonn\u00e9 de l'accueil r\u00e9serv\u00e9 \u00e0 l'outil. <\/span>VentureBeat<\/span><\/a>Je l'avais encore sous-estim\u00e9. La r\u00e9ponse est tout simplement au-del\u00e0 de ce que nous avions imagin\u00e9.\"\u00a0<\/span><\/p>\n L'\u00e9quipe a fait \u00e9cho \u00e0 ces propos dans une d\u00e9claration sur les m\u00e9dias sociaux, soulignant la demande sans pr\u00e9c\u00e9dent : \"La demande pour Nightshade a d\u00e9pass\u00e9 toutes les bornes\", ont-ils d\u00e9clar\u00e9, notant que le flot de t\u00e9l\u00e9chargements mondiaux avait momentan\u00e9ment submerg\u00e9 l'infrastructure du r\u00e9seau de l'universit\u00e9, ce qu'ils ont d'abord pens\u00e9 \u00eatre une cyber-attaque.\u00a0<\/span><\/p>\n La demande de morelles a explos\u00e9. Les demandes globales ont en fait satur\u00e9 la liaison r\u00e9seau de notre campus. (Pas d'attaque de dos, juste des t\u00e9l\u00e9chargements l\u00e9gitimes). Nous ajoutons deux liens miroirs rapides pour les binaires nightshade.<\/p>\n Gagnez : https:\/\/t.co\/rodLkW0ivK<\/a> - Glaze \u00e0 l'Universit\u00e9 de Chicago (@TheGlazeProject) 20 janvier 2024<\/a><\/p><\/blockquote>\n\n
\nMac : https:\/\/t.co\/mEzciopGAE<\/a><\/p>\n