Les entreprises spécialisées dans l'IA sont poursuivies pour violation des droits d'auteur, mais les images générées par l'IA présentent également un risque juridique potentiel pour les utilisateurs finaux.
Dans un article publié sur Spectre de l'IEEEGary Marcus, spécialiste des sciences cognitives, et Reid Southen, artiste concepteur de films, ont décrit le problème croissant du plagiat visuel auquel sont confrontés les générateurs d'œuvres d'art par l'IA.
Nous rapporté précédemment sur les images que Southen et d'autres ont pu générer en utilisant Voyage à mi-parcours v6. Après avoir été soigneusement guidées, les images générées ressemblaient beaucoup à des captures d'écran de films à succès protégés par des droits d'auteur.
Les CGU de Midjourney avertissent désormais les utilisateurs que s'ils utilisent sa plateforme pour produire du matériel qui enfreint les droits d'auteur, ils peuvent être bannis et faire l'objet d'une action en justice. M. Southen a été banni par la suite lorsqu'il a signalé le problème de plagiat que posait la version 6 de Midjourney.
Si vous avez intentionnellement demandé à Midjourney ou à DALL-E de créer une image avec un personnage de Disney, vous ne seriez probablement pas surpris si un avocat de Disney vous appelait. Marcus et Southen ont souligné que l'utilisation de ces outils comporte un risque plus subtil.
Ils ont constaté que même les requêtes génériques renvoyaient souvent des documents protégés par le droit d'auteur. Si un utilisateur demandait innocemment "dessin animé populaire des années 90 avec une peau jaune", il obtiendrait ceci.
Ils ne l'admettent pas, mais il semble que le modèle de Midjourney ait apprécié quelques épisodes des Simpsons.
Peut-être que cette invite a forcé une démonstration de la question. Si vous utilisiez l'IA pour écrire un livre pour enfants et que vous vouliez que Midjourney vous fournisse une image de "jouets animés", vous pourriez obtenir ceci.
Si vous êtes l'une des rares personnes à ne pas avoir regardé Toy Story, vous pouvez potentiellement publier votre livre qui contient maintenant des images qui vous vaudront très certainement une action en justice pour violation des droits d'auteur.
DALL-E génère également une belle collection de personnages familiers issus de films tels que Monstres Inc. et Cars, en réponse à la même requête de deux mots. Même une simple demande de modification peut entraîner un utilisateur dans un territoire obscur de violation des droits d'auteur, comme l'a fait cet utilisateur sur X.
Vérifiez toujours par vous-même le battage médiatique de l'IA. Voici donc mon propre test rapide d'une demande raisonnable d'un utilisateur final sur DALL-E 3.
Tout commence bien, malgré un chapeau rouge suspect. Mais il suffit d'un peu d'itération, et soudain... c'est moi, Mario !@GaryMarcus @OpenAI @Nintendo pic.twitter.com/qK23XJcsZj- NLeseul (@NLeseul) 30 décembre 2023
Comment remédier à cette situation ? Marcus et Southen proposent de supprimer le matériel de formation incriminé, d'améliorer le filtrage des messages et de proposer d'autres options. Ils reconnaissent toutefois qu'il est difficile de créer un générateur d'images par IA qui soit vraiment bon sans enfreindre les règles juridiques et éthiques.
DALL-E dispose de quelques filtres pour essayer d'empêcher la génération de contenu illégal, mais il semble beaucoup plus facile à contourner qu'il ne devrait l'être. De simples jailbreaks rapides comme celui-ci ne devraient pas fonctionner.
Si les utilisateurs veulent utiliser intentionnellement ces outils pour créer du contenu qui porte atteinte aux droits d'auteur, il ne semble pas que les entreprises d'IA générative seront en mesure de l'empêcher de sitôt. Le problème le plus important est le risque d'infractions accidentelles.
Si votre belle photo en noir et blanc prise par DALL-E ressemble à s'y méprendre à une image Getty protégée par le droit d'auteur, qui en portera la responsabilité juridique ? Pour l'instant, il est préférable de soumettre toute image que vous envisagez de publier à une recherche d'image inversée afin de vous assurer que vous ne vous retrouverez pas dans la mêlée des poursuites en matière de droit d'auteur de l'IA.
