Une vidéo sur TikTok semble montrer l'influenceur YouTube MrBeast offrant 10 000 iPhone 15 Pro à ses followers pour $2 chacun.
Ne sortez pas votre carte de crédit, car il s'agit d'un deepfake généré par une IA qui a échappé à la modération du contenu de TikTok.
MrBeast, de son vrai nom Jimmy Donaldson, domine YouTube avec 189 millions d'abonnés à sa chaîne. Ses vidéos sont assez extravagantes et le voient faire des choses comme donner une île de $800k ou $1m que les utilisateurs doivent dépenser en une minute.
On pourrait donc croire brièvement qu'il va faire quelque chose de fou, comme donner 10 000 iPhones. Le paiement initial de $2 aurait dû être un indice qu'il s'agissait d'une escroquerie.
La vidéo était un peu bancale, mais elle ressemble à MrBeast, ce qui a probablement trompé de nombreuses personnes avant que TikTok ne la retire.
Les plateformes de médias sociaux sont-elles prêtes à faire face à l'essor des deepfakes AI ? Il s'agit d'un problème grave pic.twitter.com/llkhxswQSw
- MrBeast (@MrBeast) 3 octobre 2023
TikTok a mis en place un processus de vérification pour les nouveaux comptes et des politiques de modération du contenu, mais aucune de ces mesures n'a permis de détecter cette fausse publicité. Un commentaire sur le tweet de MrBeast disait : "Se faire vérifier sur TikTok est aussi facile que de faire une sieste".
MrBeast a posé la question suivante : "Les plateformes de médias sociaux sont-elles prêtes à faire face à l'essor de l'IA deepfake ?" et la réponse évidente est non.
Au cours de la semaine dernière, nous avons vu Les deepfakes de Tom Hanks par l'IA dans une publicité pour des soins dentaires et Gayle King dans une publicité pour un produit d'amaigrissement.
Voir ce message sur Instagram
Se faire arnaquer pour $2 ou acheter un produit de perte de poids qui ne fonctionne pas vraiment est la limite inférieure des dommages potentiels que les AI deepfakes peuvent causer.
Le potentiel de perturbation des élections ou de diffusion de désinformations nuisibles est amplifié lorsque la personne qui nous parle semble être quelqu'un en qui nous avons confiance. Des entreprises tentent de mettre au point un filigrane numérique permettant d'identifier les contenus générés par l'intelligence artificielle. aucun d'entre eux ne semble fonctionner de manière fiable pour l'instant.
Même s'ils développent un moyen de marquer le contenu de l'IA, comment obliger les gens à l'utiliser ? Tant que nous n'aurons pas trouvé un moyen de savoir instantanément si quelque chose est généré par l'IA, nous devrons être très prudents sur ce que nous croyons.
Si c'est trop beau pour être vrai, c'est probablement le cas.
