La société de capital-risque Andreessen Horowitz, également connue sous le nom d'a16z, a été l'un des premiers investisseurs dans des géants de la technologie comme Facebook et Lyft. Sa décision d'investir dans la plateforme d'IA générative Civitai repousse les limites de l'éthique.
Civitai est une plateforme open source où les adeptes de la diffusion stable peuvent partager leurs œuvres d'art générées par l'IA et d'autres ressources. Certaines de ces ressources sont également utilisées pour créer des pornographie non consensuelle.
La diffusion stable est assez performante dès sa sortie de l'emballage, mais il est possible de l'améliorer encore en affinant le modèle. LoRA (Low-Rank Adaptation) est une technique permettant d'affiner les modèles de diffusion tels que la diffusion stable afin de générer un type d'image spécifique.
L'utilisation d'une LoRA entraîne une diffusion stable sur de nouveaux concepts, tels que des personnages spécifiques, des styles artistiques ou une esthétique visuelle.
Si vous recherchez une LdR spécifique, Civitai est une excellente ressource. Même si les conditions générales de la plateforme interdisent expressément l'hébergement de contenu "mature", il existe de nombreuses LdR hébergées sur le site qui peuvent vous permettre de créer vos propres images NSFW à la maison.
10/ L'utilisation non consensuelle de l'image de célébrités, d'hommes politiques et de personnes est monnaie courante dans la société.
À quel moment devons-nous tenir des entreprises comme CivitAI responsables de tous ces préjudices ? Devons-nous également tenir des entreprises comme @a16z responsable d'investir en connaissant les effets néfastes ? pic.twitter.com/BxMUx9JPC8
- Karla Ortiz (@kortizart) 15 novembre 2023
Primes
La nouvelle option "Bounties" de Civitai permet aux utilisateurs de demander à la communauté Civitai de créer un LoRA personnalisé et de récompenser le meilleur avec la monnaie virtuelle de Civitai.
Cette option a conduit de nombreux utilisateurs à demander aux modèles de générer des images de célébrités, d'influenceurs ou même de particuliers, souvent sans vêtements ou engagés dans des actes sexuels.
Une prime pour au moins une personne privée a été mise en place. trouvé par 404 Media. La personne qui a demandé le modèle a déclaré que la photo était celle de son épouse, mais une enquête plus approfondie a permis de trouver le compte Facebook de la femme, qui indiquait qu'elle était célibataire.
Un certain nombre de développeurs ont refusé la prime, mais un utilisateur a fini par créer le modèle d'IA qui est désormais disponible au téléchargement sur Civitai.
Il n'y a pas que du mauvais
Comme beaucoup de plateformes en ligne, la plupart des contenus de Civitai sont inoffensifs, mais son approche de communauté open source est vulnérable aux abus d'une minorité croissante d'utilisateurs.
Civitai compte environ 3 millions d'utilisateurs, dont environ 10 000 créateurs uniques qui téléchargent de nouveaux modèles. Civitai indique que les primes demandant l'image de personnes réelles ne représentent que 10% des demandes.
Et il y a de bonnes raisons de créer ce type de modèles d'IA. Justin Maier, PDG de Civitai, estime qu'il existe une opportunité pour les personnes de vendre leur image sous licence à des marques qui l'utiliseraient dans la publicité.
Un mannequin de mode, par exemple, ne peut normalement participer qu'à une seule séance de photos à la fois. L'octroi d'une licence et la vente de son image à un fabricant de vêtements lui permettraient d'augmenter ses revenus potentiels sans avoir à repasser devant l'appareil photo.
Brian Kim, associé d'Andreessen Horowitz, a déclaré : "Notre investissement dans la société ne fera que renforcer quelque chose qui fonctionne déjà incroyablement bien, en contribuant à un monde où tout individu peut tirer parti de ce que le plus grand changement technologique de notre génération - l'IA - a à offrir".
Le problème, c'est que certaines de ces personnes utilisent l'IA de manière extrêmement néfaste. Ce n'est certainement pas en suralimentant Civitai avec de l'argent d'a16z que cela va s'arrêter.
