Un vídeo en TikTok parecía mostrar al influencer de YouTube MrBeast ofreciendo 10.000 teléfonos iPhone 15 Pro a sus seguidores por $2 cada uno.
No te molestes en sacar tu tarjeta de crédito, porque el vídeo era un deepfake generado por IA que de alguna manera evadió la moderación de contenidos de TikTok.
MrBeast, cuyo nombre real es Jimmy Donaldson, domina YouTube con 189 millones de suscriptores en su canal. Sus vídeos son bastante escandalosos y le ven hacer cosas como regalar una isla de $800k o $1m que los usuarios tienen que gastar en un minuto.
Así que se te perdonaría que creyeras por un momento que iba a hacer una locura como regalar 10.000 iPhones. Sin embargo, el pago inicial de $2 debería haber sido un indicio de que se trataba de una estafa.
El vídeo tenía algunos fallos, pero parece y suena igual que MrBeast, así que probablemente engañó a mucha gente antes de que TikTok acabara retirándolo.
Mucha gente está recibiendo este anuncio deepfake scam de mí ... ¿están las plataformas de medios sociales listos para manejar el aumento de deepfakes AI? Es un problema grave pic.twitter.com/llkhxswQSw
- MrBeast (@MrBeast) 3 de octubre de 2023
TikTok cuenta con un proceso de verificación para los nuevos registros de cuentas y políticas de moderación de contenidos, pero ninguno de ellos detectó este anuncio falso. Un comentario al tuit de MrBeast decía "Verificarse en TikTok es tan fácil como echarse una siesta".
MrBeast preguntaba: "¿Están preparadas las plataformas de las redes sociales para hacer frente al auge de los deepfakes de IA?" Y la respuesta obvia es: no, no lo están.
Sólo en la última semana hemos visto AI deepfakes de Tom Hanks en un anuncio dental y Gayle King apareciendo para promocionar un producto para adelgazar.
Ver esta publicación en Instagram
Ser estafado por $2 o comprar un producto de pérdida de peso que realmente no funciona es el extremo inferior del daño potencial que podrían causar los deepfakes de AI.
El potencial para perturbar elecciones o difundir desinformación perjudicial se amplifica cuando la persona que nos habla parece ser alguien en quien confiamos. Las empresas están intentando desarrollar una marca de agua digital que identifique los contenidos generados por IA, pero ninguno de ellos parece funcionar de forma fiable.
Incluso si desarrollaran una forma de marcar los contenidos generados por IA, ¿cómo obligarían a la gente a utilizarlos? Hasta que encontremos un modo de saber al instante si algo está generado por IA, tendremos que ser muy cautos con lo que creemos.
Si es demasiado bueno para ser verdad, probablemente lo sea.
