La herramienta de envenenamiento de datos de la Universidad de Chicago, Nightshade, acumuló más de 250.000 descargas en sólo cinco días desde su debut el 18 de enero de 2024.
Diseñado para ayudar a los artistas visuales en la lucha contra el uso no autorizado de sus obras por modelos de IA, Nightshade ofrece un enfoque novedoso al "envenenar" los modelos, interrumpiendo eficazmente su capacidad de aprender de las imágenes con las que se han entrenado.
Este proceso actúa alterando sutilmente las imágenes a nivel de píxel, haciéndolos parecer diferentes a los modelos de IA sin comprometer su integridad visual para el ojo humano.
Cuando un modelo de IA se entrena con imágenes envenenadas, sus resultados se vuelven defectuosos, protegiendo eficazmente a los artistas del robo de datos a largo plazo.
Los desarrolladores de IA querrán evitar dañar sus modelos entrenándose con imágenes envenenadas, así que esto pone la pelota en su tejado.
Diseñarán una solución o cambiarán sus prácticas de raspado de datos para evitar las obras protegidas por derechos de autor susceptibles de ser envenenadas.
Nightshade funciona mejor cuando se utiliza a escala: cuantas más imágenes envenenadas se introduzcan en un modelo de IA, mayor será el impacto.
Si, en teoría, todas las imágenes de un conjunto de datos estuvieran envenenadas, el modelo de inteligencia artificial tendría dificultades para generar algo coherente.
A menor escala, las imágenes envenenadas manipulan el modelo para que aprenda asociaciones falsas, lo que significa que una indicación de un "gato en una nube" podría producir algo parecido a "un bolso en un campo".
Aunque las empresas de IA ya disponen de grandes cantidades de datos, si no consiguen crear nuevos conjuntos de datos actuales, los modelos acabarán perdiendo el contacto con la realidad.
Ben Zhao, director del proyecto y profesor de informática en la universidad, expresó su asombro por la acogida de la herramienta, declarando a VentureBeatTodavía lo subestimaba. La respuesta está simplemente más allá de lo que imaginábamos".
De ello se hizo eco un comunicado del equipo en las redes sociales, en el que se destacaba la demanda sin precedentes: "La demanda de Nightshade se ha disparado", afirmaban, señalando que la avalancha de descargas mundiales había desbordado momentáneamente la infraestructura de red de la universidad, lo que en un principio pensaron que podría tratarse de un ciberataque.
La demanda de nightshade se ha disparado. Las peticiones globales han saturado el enlace de red de nuestro campus. (No hay ataques dos, sólo descargas legítimas). Estamos añadiendo dos enlaces espejo rápido para binarios nightshade.
Gana: https://t.co/rodLkW0ivK
Mac: https://t.co/mEzciopGAE- Glaze en UChicago (@TheGlazeProject) 20 de enero de 2024
La herramienta es la última de una serie de esfuerzos del equipo, tras Glaze, otra herramienta destinada a engañar a los modelos de IA sobre el estilo de una obra de arte. Los desarrolladores están estudiando la forma de integrar Nightshade y Glaze para ofrecer una defensa por capas de los contenidos digitales.
Nightshade es bastante complejo y exige muchos recursos, por lo que se necesita un ordenador potente para ejecutarlo.
Envenenar varias imágenes también lleva tiempo, pero una vez hecho, hecho está. La interfaz de usuario de Nightshade, aunque no es especialmente llamativa, es bastante intuitiva, ya que guía a los usuarios a través del proceso con ajustes sencillos y genera resultados en un plazo de 30 a 180 minutos, en función de los parámetros elegidos.
Artistas y entusiastas de la tecnología están utilizando la herramienta, y algunos abogan por el uso generalizado de Nightshade en todos los contenidos digitales personales para diluir la reserva de datos para los modelos de IA. La unión hace la fuerza, como suele decirse.
En lucha de artistas contra los desarrolladores de IA que utilizan datos protegidos por derechos de autor ha sido inmensa este año, con artistas de todos los ámbitos del espectro creativo reuniéndose en X y otras plataformas de medios sociales, haciendo caso al toque de clarín de defensores como Reid Southen y Jon Lam.
¡¡250K descargas para Nightshade!! Vamos a Shade/Glaze y a subirlo. Descargar es sólo el primer paso. Felicidades a @TheGlazeProject
¡descargar aquí! Empieza a envenenar tu arte ¡¡YA!!https://t.co/Y45iGlF6cyhttps://t.co/uiGfBVwFRu
- Jon Lam #CreateDontScrape (@JonLamArt) 30 de enero de 2024
Los desarrolladores de IA no sólo tienen que preocuparse por los artistas, también luchan contra una serie de demandas por derechos de autor y luchando aumento de la demanda energética y la inminente escasez de semiconductores.
Aunque Nightshade aún presenta cierta complejidad en su uso, hay planes para integrarla con la aplicación social y de cartera Cara, actualmente en beta abierta, lo que insinúa una adopción más amplia.
Con el tiempo, Nightshade podría alojarse completamente en la nube, lo que la haría muy accesible.
A medida que el panorama digital sigue evolucionando, herramientas como Nightshade representan una solución técnica y un símbolo de la lucha continua por el control y el respeto en la era de la IA.
Se trata de otra "carrera de la inteligencia artificial" en un sector en tensión en estos momentos.
