La herramienta de envenenamiento de datos de la Universidad de Chicago, Nightshade, acumul\u00f3 m\u00e1s de 250.000 descargas en s\u00f3lo cinco d\u00edas desde su debut el 18 de enero de 2024.\u00a0<\/b><\/p>\n
Dise\u00f1ado para ayudar a los artistas visuales en la lucha contra el uso no autorizado de sus obras por modelos de IA, Nightshade ofrece un enfoque novedoso al \"envenenar\" los modelos, interrumpiendo eficazmente su capacidad de aprender de las im\u00e1genes con las que se han entrenado.<\/span><\/p>\n Este proceso <\/span>act\u00faa alterando sutilmente las im\u00e1genes a nivel de p\u00edxel<\/span><\/a>, haci\u00e9ndolos parecer diferentes a los modelos de IA sin comprometer su integridad visual para el ojo humano.\u00a0<\/span><\/p>\n Cuando un modelo de IA se entrena con im\u00e1genes envenenadas, sus resultados se vuelven defectuosos, protegiendo eficazmente a los artistas del robo de datos a largo plazo. <\/span><\/p>\n Los desarrolladores de IA querr\u00e1n evitar da\u00f1ar sus modelos entren\u00e1ndose con im\u00e1genes envenenadas, as\u00ed que esto pone la pelota en su tejado.<\/span><\/p>\n Dise\u00f1ar\u00e1n una soluci\u00f3n o cambiar\u00e1n sus pr\u00e1cticas de raspado de datos para evitar las obras protegidas por derechos de autor susceptibles de ser envenenadas.\u00a0<\/span><\/p>\n Nightshade funciona mejor cuando se utiliza a escala: cuantas m\u00e1s im\u00e1genes envenenadas se introduzcan en un modelo de IA, mayor ser\u00e1 el impacto.\u00a0<\/span><\/p>\n Si, en teor\u00eda, todas las im\u00e1genes de un conjunto de datos estuvieran envenenadas, el modelo de inteligencia artificial tendr\u00eda dificultades para generar algo coherente.\u00a0<\/span><\/p>\n A menor escala, las im\u00e1genes envenenadas manipulan el modelo para que aprenda asociaciones falsas, lo que significa que una indicaci\u00f3n de un \"gato en una nube\" podr\u00eda producir algo parecido a \"un bolso en un campo\".\u00a0<\/span><\/p>\n Aunque las empresas de IA ya disponen de grandes cantidades de datos, si no consiguen crear nuevos conjuntos de datos actuales, los modelos acabar\u00e1n perdiendo el contacto con la realidad.<\/p>\n Ben Zhao, director del proyecto y profesor de inform\u00e1tica en la universidad, expres\u00f3 su asombro por la acogida de la herramienta, declarando a <\/span>VentureBeat<\/span><\/a>Todav\u00eda lo subestimaba. La respuesta est\u00e1 simplemente m\u00e1s all\u00e1 de lo que imagin\u00e1bamos\".\u00a0<\/span><\/p>\n De ello se hizo eco un comunicado del equipo en las redes sociales, en el que se destacaba la demanda sin precedentes: \"La demanda de Nightshade se ha disparado\", afirmaban, se\u00f1alando que la avalancha de descargas mundiales hab\u00eda desbordado moment\u00e1neamente la infraestructura de red de la universidad, lo que en un principio pensaron que podr\u00eda tratarse de un ciberataque.\u00a0<\/span><\/p>\n La demanda de nightshade se ha disparado. Las peticiones globales han saturado el enlace de red de nuestro campus. (No hay ataques dos, s\u00f3lo descargas leg\u00edtimas). Estamos a\u00f1adiendo dos enlaces espejo r\u00e1pido para binarios nightshade.<\/p>\n Gana: https:\/\/t.co\/rodLkW0ivK<\/a> - Glaze en UChicago (@TheGlazeProject) 20 de enero de 2024<\/a><\/p><\/blockquote>\n\n
\nMac: https:\/\/t.co\/mEzciopGAE<\/a><\/p>\n