Le mois de janvier 2024 a commencé par des discussions sur Midjourney, une force de premier plan dans le monde de la génération d'images par l'IA, qui a utilisé les noms et les styles de plus de 16 000 artistes sans leur consentement pour entraîner ses modèles de génération d'images.
Vous pouvez consulter la base de données des artistes sous la pièce J d'un procès intenté contre Midjourney, Stability AI et DeviantArt.
Dans la même semaine, le Dr Gary Marcus, spécialiste des sciences cognitives, et Reid Southen, artiste conceptuel, ont publié le document suivant une analyse dans l'IEEE intitulé "Generative AI Has a Visual Plagiarism Problem" (L'IA générative a un problème de plagiat visuel).
Ils ont mené une série d'expériences avec les modèles d'IA Midjourney et DALL-E 3 afin d'explorer leur capacité à générer des images susceptibles d'enfreindre les droits d'auteur.
En soumettant Midjourney et DALL-E 3 à des messages volontairement brefs et liés à des films commerciaux, des personnages et des décors reconnaissables, Marcus et Southen ont révélé l'incroyable capacité de ces modèles à produire des contenus manifestement protégés par le droit d'auteur.
Ils ont utilisé des messages-guides liés à des films spécifiques, tels que "Avengers : Infinity War", sans nommer directement les personnages. Il s'agissait de tester si l'IA générerait des images ressemblant étroitement au matériel protégé par le droit d'auteur uniquement à partir d'indices contextuels.
Les dessins animés ne sont pas en reste : les chercheurs ont expérimenté la génération d'images des personnages de "The Simpsons", en utilisant des invites qui ont conduit les modèles d'IA à produire des images distinctement reconnaissables de la série.
Enfin, Marcus et Southen ont testé des messages-guides qui ne font aucune allusion à des documents protégés par le droit d'auteur, montrant ainsi la capacité de Midjourney à se souvenir d'images protégées par le droit d'auteur même lorsqu'elles ne sont pas spécifiquement demandées.
Midjourney recrée en masse des éléments de propriété intellectuelle sans licence et parfois presque mot pour mot à partir de messages non spécifiques, tout en tirant profit des abonnements. Les utilisateurs de MJ n'ont pas besoin de vendre les images pour qu'il y ait potentiellement violation du droit d'auteur, MJ tire déjà profit de leur création. pic.twitter.com/Ax3tQWq3pt
- Reid Southen (@Rahll) 7 janvier 2024
Plus qu'un exposé technique, ce projet touche les nerfs à vif des communautés artistiques du monde entier.
L'art, après tout, n'est pas équivalent aux données. C'est l'aboutissement de toute une vie d'investissement émotionnel, d'exploration personnelle et d'artisanat minutieux.
L'étude de Marcus et Southen était sur le point de s'inscrire dans un débat prolongé portant sur les droits d'auteur, la propriété intellectuelle, la monétisation de l'IA et l'utilisation de l'IA générative par les entreprises.
Les entreprises utilisent le travail généré par l'IA, et les observateurs ne l'ignorent pas
L'un des mots d'ordre de l'IA générative pour l'adoption par les entreprises est l'"efficacité" ou ses dérivés.
Que les entreprises utilisent la technologie pour gagner du temps, économiser de l'argent ou résoudre des problèmes, nous savons depuis un certain temps que l'"efficacité" de l'IA s'accompagne d'un risque de déplacement des compétences humaines ou de remplacement d'emplois.
Les entreprises sont souvent encouragées à y voir une opportunité. Remplacer un humain par l'IA est souvent considéré comme un choix stratégique.
Cependant, envisager ce compromis entre l'homme et la machine de manière aussi linéaire peut s'avérer une grave erreur, comme les événements suivants le démontrent très franchement.
Les gens ne sont pas disposés à laisser passer les cas d'utilisation abusive de l'IA par les entreprises lorsqu'ils ont l'occasion de s'y confronter.
ID@Xbox
Xbox, par l'intermédiaire de sa division de jeux indépendants ID@Xbox, a publié une scène hivernale générée par l'IA. Cela a suscité un sentiment d'ironie, car cette division de Xbox est axée sur les développeurs indépendants et sur le soutien et la promotion de leur travail.
Xbox a ensuite supprimé le message, mais n'a pas donné suite.
Au cas où quelqu'un tiendrait le compte... Xbox ET Game Informer ont tous deux utilisé ou promu l'IA générative relativement récemment. https://t.co/cOvkU3WXQ8 pic.twitter.com/2d5oeVTCLN
- Genel Jumalon ✈️ MagFest (@GenelJumalon) 7 janvier 2024
Game Informer, comme vous pouvez le voir ci-dessus, a également publié une image de mauvaise qualité de Master Chief de Halo, générée par l'IA.
Magic : The Gathering
Le jeu de cartes à collectionner Magic : The Gathering a fait naître un sentiment d'appartenance. tempête de critiques lorsqu'ils ont publié une image partiellement générée par l'IA d'une nouvelle carte. C'est précisément l'arrière-plan qui était généré par l'IA, comme en témoignent les lignes et les courbes déformées.
MTG a d'abord rejeté les critiques des observateurs, qui se sont accélérées tout au long de la semaine. La situation a été aggravée par le fait que la société avait précédemment publié une déclaration s'opposant à l'utilisation de l'IA dans ses "principaux produits".
Il s'agissait d'une image promotionnelle sur les médias sociaux, qui n'a donc pas manqué à sa promesse, mais c'est le refus catégorique de MTG qui a mis le feu aux poudres pour de nombreuses personnes.
"créé par l'homme" C'est vrai... pic.twitter.com/gf9TUXWSPA
- TaylorGreen (@GreenSkyDragon) 5 janvier 2024
Je déteste que nous vivions dans une époque où nous devons vérifier les faits dans l'art. pic.twitter.com/9D6V6ZXswW
- Genel Jumalon ✈️ MagFest (@GenelJumalon) 5 janvier 2024
Plus tard dans la semaine, MTG a concédé sa défaite aux hordes d'observateurs, en leur disant que cette image avait été générée par l'IA.
La déclaration commence ainsi : "Nous avons commis une erreur en affirmant qu'une image marketing que nous avons publiée n'avait pas été créée à l'aide de l'IA. Lisez la suite pour en savoir plus" et explique qu'un concepteur a probablement utilisé un outil d'IA comme Firefly, intégré à Photoshop, ou un autre outil de conception graphique alimenté par l'IA, plutôt que de simplement générer l'image entière avec Midjourney ou un outil similaire.
Nous avons commis une erreur en affirmant qu'une image marketing que nous avions publiée n'avait pas été créée à l'aide de l'IA. Lisez la suite pour en savoir plus. (1/5)
- Magic : The Gathering (@wizards_magic) 7 janvier 2024
Un élément de ce débat était que MTG n'utilisait probablement l'IA que pour générer l'arrière-plan de l'image.
Si Adobe Firefly a été utilisé pour ce projetCe qui semble possible, c'est qu'Adobe soit fier de son utilisation éthique et légale des données, bien que cela soit discuté.
PCe n'est peut-être pas la pire des offenses parmi les autres candidats de cette semaine, à ce propos...
Wacom
L'une des plus grosses erreurs de la semaine a sans doute été commise par Wacom, qui fabrique des tablettes de dessin pour les artistes et les illustrateurs.
Il est choquant de constater que, pour une marque dont l'objectif est d'aider les artistes à créer des œuvres d'art numériques, Wacom a utilisé une image générée par l'IA pour promouvoir un coupon de réduction.
Là encore, les utilisateurs ont identifié l'origine IA de l'image à partir des distorsions caractéristiques de la technologie, comme le texte en bas à gauche de l'image. Les observateurs ont ensuite trouvé le dragon dans Abobe Stock Images.
La réaction a été brutale, les utilisateurs de X humiliant ostensiblement la marque et suggérant aux utilisateurs de boycotter leurs produits.
Parce que Wacom a supprimé son message.
Il s'agit d'une mesure de préservation de l'histoire de l'internet. https://t.co/WEZex5GbG9 pic.twitter.com/chiR2pOczB- Genel Jumalon ✈️ Animate Raleigh (@GenelJumalon) 6 janvier 2024
Wacom s'est excusé, mais sa tentative de rejeter la responsabilité sur un tiers n'a pas été bien accueillie.
Un message de l'équipe Wacom : pic.twitter.com/u06PNCvmhU
- Wacom (@wacom) 9 janvier 2024
League of Legends
League of Legends est une autre marque qui a été victime de l'utilisation déplaisante de l'art généré par l'IA.
Bien qu'il s'agisse peut-être d'un exemple plus controversé ou limite, il y a certainement des preuves de l'IA, comme on peut l'observer dans certains composants et parties du corps aux formes bizarres.
Ces derniers jours, Wizards of the Coast a été pris en flagrant délit d'utilisation de l'IA dans ses campagnes publicitaires, alors qu'il s'était engagé à ne pas le faire. Wacom s'est également fait prendre et a été supprimé, ce qui est fou compte tenu de leurs produits, et il semble qu'il en soit de même pour Apex Legends. Les emplois se font en temps réel, ça me donne la nausée. pic.twitter.com/EGBA1INMPZ
- Reid Southen (@Rahll) 7 janvier 2024
Un bilan pour les entreprises du secteur de l'IA ?
2024 a fait l'objet d'une série de procès, les auteurs Nicholas Basbanes et Nicholas Gage ayant été condamnés à une peine de prison de deux ans. dépôt d'une plainte affirmant qu'OpenAI et Microsoft ont illégalement exploité leurs œuvres écrites. Procès du New York Times en décembre.
Le procès intenté par le NYT, en particulier, pourrait avoir des conséquences monumentales pour le secteur de l'IA.
Alex Connock, maître de conférences à la Saïd Business School de l'Université d'Oxford, a souligné l'impact potentiel en déclarant : "Si le Times devait gagner le procès, cela pourrait être catastrophique pour l'ensemble du secteur de l'IA".
Il a précisé les implications en notant que "la perte du principe selon lequel l'utilisation équitable peut permettre l'apprentissage à partir de matériel de tiers serait un coup dur pour l'ensemble de l'industrie".
Gary Marcus, qui a participé à l'étude Midjourney de l'IEEE, a également qualifié l'année 2024 d'"année du procès de l'IA", et l'on peut se demander si cela, combiné à la réglementation et aux pénuries potentielles de matériel, ne risque pas d'être le signe d'un "hiver de l'IA", où la ferveur du secteur pour le développement se calmerait.
2024 est 𝙙𝙚𝙛𝙞𝙣𝙞𝙩𝙚𝙡𝙮 sera l'année du procès dans GenAI.
Si vous voulez savoir pourquoi, et pourquoi GenAI perdra probablement beaucoup de ces procès ou sera forcée de les régler, consultez les derniers articles de mon site (gratuit) 𝖲𝗎𝖻𝗌𝗍𝖺𝖼𝗄, Marcus on AI. https://t.co/cO4bqKkbsa
- Gary Marcus (@GaryMarcus) 8 janvier 2024
M. Connock a également spéculé sur les répercussions plus larges de ce déluge de poursuites, expliquant que "si OpenAI perdait le procès, cela ouvrirait la voie à tous les autres créateurs de contenu qui pensent que leur contenu a été exploré (ce qui est pratiquement le cas de tout le monde) et produirait des dommages à l'échelle du secteur".
Selon Connock, "ce qui se passera presque inévitablement, c'est que le NY Times conclura un accord, après avoir obtenu une meilleure rémunération pour l'utilisation de son contenu".
La découverte d'une faille dans l'armure de l'industrie de l'IA serait énorme, tant pour les grandes entreprises comme le NYT que pour les créateurs indépendants.
Comme l'a déclaré James Grimmelmann, professeur de droit du numérique et de l'information à Cornell, "les détenteurs de droits d'auteur ont fait la queue pour s'attaquer à l'IA générative comme à une piñata géante tissée à partir de leurs œuvres. 2024 sera probablement l'année où nous découvrirons s'il y a de l'argent à l'intérieur".
Quelle est donc la solidité de la défense de l'industrie ? Jusqu'à présent, les développeurs d'IA s'accrochent à leurs arguments d'"utilisation équitable" tout en se protégeant du fait que les ensembles de données les plus populaires ont été créés par d'autres entités qu'eux-mêmes, ce qui obscurcit leur culpabilité.
Les entreprises technologiques sont expertes dans la lutte contre les responsabilités juridiques qui font obstacle à la R&D. N'oublions pas non plus que l'IA offre des opportunités aux gouvernements en quête d'"efficacité" et d'autres avantages, ce qui atténue leur résistance.
Le gouvernement britannique, par exemple, a même envisagé une exception au droit d'auteur pour les entreprises spécialisées dans l'IA, une idée qu'il a abandonnée après une forte résistance et la création d'une commission parlementaire.
En termes de stratégie, dans une discussion avec le LA Times, William Fitzgerald, partenaire de l'agence Worker et ancien membre de l'équipe chargée de la politique publique de Google, a déclaré que les grandes entreprises technologiques lancer une forte campagne de lobbying, peut-être sur le modèle des tactiques utilisées précédemment par les géants de la technologie tels que Google.
Cela impliquerait une combinaison de défense juridique, de campagnes de relations publiques et d'efforts de lobbying, des tactiques qui ont été particulièrement visibles dans des affaires passées très médiatisées telles que la bataille autour de la loi "Stop Online Piracy Act" (SOPA) et le litige concernant Google Books.
M. Fitzgerald observe qu'OpenAI semble suivre une voie similaire à celle de Google, non seulement dans son approche du traitement des plaintes relatives aux droits d'auteur, mais aussi dans ses pratiques d'embauche.
Il souligne : "Il semble qu'OpenAI reproduise le manuel de lobbying de Google. Elle a embauché d'anciens défenseurs de Google pour appliquer le même manuel qui a si bien réussi à Google depuis des décennies".
L'analyse de M. Fitzgerald implique que l'industrie de l'IA, comme d'autres secteurs technologiques avant elle, pourrait s'appuyer sur de puissants efforts de lobbying et des manœuvres stratégiques de politique publique pour façonner le paysage juridique en sa faveur.
Il est impossible de prédire comment cela va se passer. Mais vous pouvez être certain que les grandes entreprises technologiques sont prêtes à se battre jusqu'au bout.
