Visages volés, vies volées : la tendance inquiétante de l'exploitation par l'IA
La plupart des utilisateurs des réseaux sociaux ont déjà croisé un influenceur qui a l'air un peu… bizarre.
Peut-être que leurs traits sont un peu trop symétriques et leurs poses un peu trop rigides. Il y a de fortes chances que vous n'ayez pas affaire à un être humain, mais à une contrefaçon générée par une intelligence artificielle.
Dans certains cas, ces influenceurs IA sont relativement inoffensives – de simples versions numériques de leurs homologues réelles, sans tentative manifeste de tromperie ou de manipulation.
Cependant, ce n'est pas toujours le cas. De manière inquiétante, un réseau de comptes Instagram utilise l'IA pour créer de faux influenceurs atteints de trisomie 21. L’objectif ? Exploiter une communauté vulnérable pour obtenir des « j’aime », des partages et, au final, de l’argent.
Mais la supercherie ne s'arrête pas là. Nombre de ces comptes renvoient vers des sites web pour adultes douteux, où le contenu généré par l'IA est monétisé.
Voir ce message sur Instagram
Malheureusement, il s'agit là de la dernière évolution en date de la tendance au “ proxénétisme par l'IA ”, où des individus sans scrupules utilisent l'apprentissage automatique pour créer de faux influenceurs à des fins lucratives. On ne parle pas seulement de personnes atteintes de trisomie 21, mais aussi de faux mannequins amputés, de victimes de brûlures et d'autres formes de pornographie générée par l'IA.
Les modèles d'images et de vidéos issus de l'IA atteignent désormais un niveau de réalisme tel qu'ils peuvent remplacer avantageusement les humains. Ce phénomène touche notamment l'industrie de la mode, où les mannequins traditionnels sont de plus en plus menacés par ces clones virtuels.
Même des enseignes aussi connues que H&M s'aventurent dans ces eaux troubles. Le géant de la mode éphémère a récemment… a annoncé une campagne mettant en scène des “ jumeaux numériques ” générés par l'IA à partir de modèles réels. En 2023, une entreprise nommée lalaland.ai a lancé des outils pour création de modèles d'IA moyennant un abonnement.
Bien que H&M assure que les mannequins conservent le contrôle de leur image numérique, nombreux sont ceux qui, dans le secteur, restent sceptiques. Après tout, à l'heure des réductions de coûts et de la consolidation, pourquoi embaucher des mannequins quand on peut acquérir les droits d'utilisation d'un avatar numérique bon marché et reproductible à l'infini ?
Le dernier rebondissement, le plus insidieux, concerne la dignité et l'humanité fondamentales des communautés marginalisées.
Les personnes atteintes du syndrome de Down – ou de tout autre handicap – ne sont pas des objets à manipuler à des fins lucratives.
De plus, la prolifération des contenus générés par l'IA menace d'éroder la confiance du public envers les médias. Si nous ne pouvons plus faire confiance aux images que nous voyons en ligne, les fondements mêmes du discours numérique commencent à s'effriter.
Alors la prochaine fois que vous parcourez votre fil d'actualité et qu'un influenceur vous semble trop beau pour être vrai, faites confiance à votre intuition.
