Las empresas de IA están siendo demandadas por infringir los derechos de autor, pero las imágenes generadas por IA también presentan un riesgo legal potencial para los usuarios finales.
En un artículo publicado en IEEE SpectrumEl Dr. Gary Marcus, científico cognitivo, y Reid Southen, artista conceptual cinematográfico, expusieron el creciente problema de plagio visual que plantean los generadores de arte por IA.
Nosotros informado anteriormente en las imágenes que Southen y otros pudieron generar utilizando Viaje intermedio v6. Con algunas indicaciones cuidadosas, las imágenes generadas se parecían mucho a capturas de pantalla de películas taquilleras protegidas por derechos de autor.
Los términos y condiciones de Midjourney advierten ahora a los usuarios de que si utilizan su plataforma para producir material que infrinja los derechos de autor pueden ser expulsados y enfrentarse a acciones legales. Southen fue expulsado cuando señaló el problema de plagio de Midjourney v6.
Si intencionadamente incitas a Midjourney o DALL-E a crear una imagen en la que aparezca un personaje de Disney, probablemente no te sorprendería que te llamara un abogado de Disney. Marcus y Southen señalaron que hay un riesgo más sutil en el uso de estas herramientas.
Descubrieron que incluso las búsquedas genéricas devolvían a menudo material protegido por derechos de autor. Si un usuario preguntaba inocentemente "popular dibujo animado de los 90 con piel amarilla", obtenía esto.
No lo admiten, pero parece que la modelo de Midjourney disfrutó con algunos episodios de Los Simpson.
Quizá ese aviso estaba forzando una demostración de la cuestión. Si estuvieras usando la IA para escribir un libro para niños y quisieras que Midjourney ofreciera una imagen de "juguetes animados" podrías conseguir esto.
Si fueras una de las pocas personas que no han visto Toy Story, podrías publicar un libro que contuviera imágenes que, casi con toda seguridad, te valdrían una demanda por derechos de autor.
DALL-E también genera una buena colección de personajes conocidos de películas como Monstruos S.A. y Cars con la misma sencilla pregunta de dos palabras. Incluso una simple solicitud de edición podría llevar a un usuario a un turbio territorio de infracción de derechos de autor como el que publicó este usuario en X.
Comprueba siempre por ti mismo el bombo de la IA. Así que, aquí está mi propia prueba rápida de una petición razonable del usuario final en DALL-E 3.
Empieza bien, a pesar de un sospechoso sombrero rojo. Pero, sólo un poco de iteración, y, de repente... ¡soy yo, Mario!@GaryMarcus @OpenAI @Nintendo pic.twitter.com/qK23XJcsZj- NLeseul (@NLeseul) 30 de diciembre de 2023
¿Cómo solucionarlo? Marcus y Southen proponen eliminar el material de entrenamiento ofensivo, mejorar el filtrado de avisos y otras opciones. Sin embargo, reconocen que hacer un generador de imágenes de IA que sea realmente bueno pero que no infrinja las normas legales y éticas es todo un reto.
DALL-E tiene algunos filtros para tratar de evitar que se genere contenido ilegal, pero parece mucho más fácil de evitar de lo que debería. Los jailbreaks simples como este no deberían funcionar.
Si los usuarios quieren utilizar intencionadamente estas herramientas para crear contenidos que infrinjan los derechos de autor, no parece que las empresas de IA generativa vayan a poder evitarlo a corto plazo. El mayor problema es la posibilidad de que se produzcan infracciones accidentales.
Si tu preciosa foto en blanco y negro que hizo DALL-E se parece mucho a una imagen protegida por derechos de autor de Getty, ¿sobre quién recae la responsabilidad legal? Por el momento, lo mejor es realizar una búsqueda inversa de imágenes de cualquier imagen que pienses publicar para asegurarte de que no te unes a la melé de demandas por derechos de autor de AI.
