D'importantes plateformes de médias sociaux - Facebook, Instagram et TikTok - ont été passées au crible pour avoir hébergé des publicités qui sexualisaient ouvertement les avatars de l'IA.
Les entreprises font la publicité d'applications pour adultes par le biais d'images et de dialogues sexuellement explicites sur les médias sociaux, dont certains impliquent la sexualisation de personnages ressemblant à des enfants.
Selon le NBC News35 développeurs d'applications diffusent des publicités sexuellement explicites sur les médias sociaux.
Une caractéristique notable de ces publicités est leur tendance à utiliser abusivement des personnages d'enfants, tels que Bob l'éponge et le monstre de Cookie, pour promouvoir des contenus pour adultes.
Plus inquiétant encore, certaines publicités ont intégré des personnages générés par l'IA et ressemblant à des mineurs, généralement représentés dans un style animé.
Ce n'est pas la première fois que du contenu généré par l'IA est utilisé pour déformer et manipuler les directives communautaires et les filtres de contenu. générer des animations d'enfants assassinés et de leur faire réciter leur destin.
Meta et TikTok ont indiqué qu'ils supprimaient ces publicités de leurs plateformes, mais se sont abstenus de tout commentaire sur la manière dont les publicités échappent à leurs filtres de contenu.
Selon toute vraisemblance, les filtres de contenu sont formés au contenu explicite non généré par l'IA, et le contenu généré par l'IA passe donc facilement à travers les mailles du filet.
Cependant, Meta a déclaré que ses "politiques interdisent les publicités contenant des contenus pour adultes trop suggestifs ou sexuellement provocants - qu'ils soient générés par l'IA ou non".
Qui publie les applications ?
Des dizaines de développeurs d'applications inconnus profitent de cette faille en diffusant des publicités qui promettent des "photos sans fondement", des "pin-up personnalisées", des "petites amies numériques" et des "chats sans censure".
De nombreuses entreprises sont situées dans des pays tels que le Belarus et la Chine, et les applications sont généralement téléchargeables gratuitement à partir des magasins d'applications de Google et d'Apple.
Les revenus sont principalement générés par les achats in-app et les abonnements.
Ce qui est frappant, c'est le manque d'homogénéité de la classification par âge de ces applications : certaines sont réservées à un public plus âgé, tandis que d'autres sont jugées appropriées pour les adolescents.
NBC News a testé trois de ces chatbots. L'un d'entre eux permettait aux utilisateurs de créer leurs propres images NSFW, tandis qu'un autre était entièrement basé sur le clic et s'appuyait sur des histoires explicites prédéterminées.
Parmi eux, la tristement célèbre Replika, qui a récemment été liée à un projet de loi sur les droits de l'homme. complot d'assassinat de tuer la reine Elizabeth II.
L'opinion publique sur la publicité en ligne pour ces chatbots a été polarisée. Les commentaires sur Instagram, par exemple, allaient de "très dystopique" à "juste triste", certains notant que les personnages générés par l'IA avaient une apparence enfantine désagréable.
Les réglementations à venir dans l'UE et aux États-Unis vont accroître la pression sur les entreprises de médias sociaux pour qu'elles prennent des mesures contre les contenus générés par l'IA, mais la question de savoir si leur technologie de filtrage peut produire les résultats escomptés est une autre histoire.
