L'outil de création d'autocollants récemment lancé par Meta semble largement ouvert à la manipulation des glissières de sécurité, avec des résultats choquants et comiques.
La semaine dernière, Meta a publié une liste décousue de nouveaux outils et fonctionnalités d'IA, dont une fonction de génération d'autocollants pour la Instagram, Facebook Stories, WhatsApp et Messenger.
"Emu", abréviation de "expressive media universe", combiné à Llama 2, permet à uLes utilisateurs peuvent saisir une phrase ou un mot, et l'intelligence artificielle suggère plusieurs options d'autocollants personnalisés pour les chats.
Cependant, les mécanismes de protection des autocollants semblent inefficaces et les utilisateurs en ont rapidement profité.
De l'humour innocent ? Certains résultats sont assez innocents, comme l'accolade de Trump avec Poutine, mais d'autres sont un peu plus sinistres.
Ok, ils sont tout simplement incroyables ! 😂❤️ pic.twitter.com/HVbBAmupK5
- 🌺jess🌺 (@__RedLily__) 4 octobre 2023
Le professeur Tama Leaver, chercheur à l'université Curtin, a fait part de ses conclusions sur Emu on X. Il a notamment observé que si "enfant avec arme" est signalé par l'IA, "enfant avec grenade" ne l'est pas, ce qui donne lieu à des suggestions d'autocollants d'enfants brandissant des armes.
M. Leaver a déclaré : "Alors que les autocollants d'IA sont accessibles dans le monde entier, les solutions d'IA plus larges de Meta sont limitées aux États-Unis. Meta a peut-être l'intention d'adapter ces outils à des contextes nationaux et culturels spécifiques. Quoi qu'il en soit, les garanties actuelles semblent insuffisantes".
Au cours d'une réunion interne testé par GizmodoAinsi, l'expression "elon musk, large breasts" a été bloquée, alors que "elon musk mammaries" a été autorisée.
Parmi les autres suggestions d'autocollants douteux, citons "fusil de Bob l'éponge", "sous-vêtements de Karl Marx" et un autocollant représentant le dictateur cambodgien Pol Pot entouré d'images inquiétantes.
J'ai découvert que facebook messenger a généré des autocollants maintenant et je ne pense pas que les personnes impliquées aient réfléchi à la question. pic.twitter.com/co987cRhyu
- défendre les trans rights🏳️⚧️ - podesbiens.bsky.social (@Pioldes) 3 octobre 2023
Les recherches portant sur des expressions telles que "guantanamo bay" et "attaques au gaz en Syrie" ont également donné des résultats controversés, et si "fusillade dans une école" a donné lieu à des autocollants controversés, "fusillade dans une école - meurtre de masse" a été signalé comme inapproprié.
Meta a reconnu l'ampleur de l'utilisation des autocollants dans un communiqué de presse, soulignant que les utilisateurs envoient des "milliards d'autocollants" sur leurs plateformes chaque mois.
Nous apprenons que les faiblesses de l'IA sont rapidement exploitées par les humains, comme l'a montré la tentative d'une épicerie néo-zélandaise d'utiliser l'intelligence artificielle comme outil de gestion de l'information. créer une application de suggestions de repas que les utilisateurs manipulaient pour obtenir des recettes telles que "thé à l'eau de Javel" et "ragoût de chair humaine".
Cela en dit-il plus sur la malice de l'IA ou sur celle de l'homme ? Étant donné que les humains ont à la fois programmé ces IA et les ont manipulées, on peut dire que la responsabilité incombe entièrement à l'homme.
