En video på TikTok viste, at YouTube-influenceren MrBeast tilbød 10.000 iPhone 15 Pro-telefoner til sine følgere for $2 hver.
Du skal ikke tage dit kreditkort frem, for videoen var en AI-genereret deepfake, som på en eller anden måde undgik TikToks indholdsmoderation.
MrBeast, hvis rigtige navn er Jimmy Donaldson, dominerer YouTube med 189 millioner abonnenter på sin kanal. Hans videoer er ret skandaløse og viser ham gøre ting som at give en ø på $800k eller $1m væk, som brugerne skal bruge på et minut.
Så man skulle tro, at han kortvarigt ville gøre noget så skørt som at give 10.000 iPhones væk. Forudbetalingen på $2 burde dog have været et hint om, at dette var et fupnummer.
Videoen var lidt glitchy, men den ligner og lyder præcis som MrBeast, så den har sikkert narret mange mennesker, før TikTok til sidst fjernede den.
Mange mennesker får denne deepfake-svindelannonce af mig ... er sociale medieplatforme klar til at håndtere stigningen i AI-deepfakes? Dette er et alvorligt problem pic.twitter.com/llkhxswQSw
- MrBeast (@MrBeast) 3. oktober 2023
TikTok har en verificeringsproces på plads for nye kontotilmeldinger og politikker for indholdsmoderation, men ingen af dem fangede denne falske annonce. I en kommentar til MrBeasts tweet stod der: "At blive verificeret på TikTok er lige så nemt som at tage en lur."
MrBeast spurgte "Er sociale medieplatforme klar til at håndtere stigningen i AI-deepfakes?", og det indlysende svar er: Nej, det er de ikke.
Bare i løbet af den sidste uge har vi set AI-deepfakes af Tom Hanks i en tandlægereklame og Gayle King, der reklamerer for et vægttabsprodukt.
Se dette opslag på Instagram
At blive snydt for $2 eller købe et vægttabsprodukt, der ikke rigtig virker, er i den lave ende af den potentielle skade, som AI-deepfakes kan forårsage.
Potentialet for at forstyrre valg eller sprede skadelig misinformation forstærkes, når den person, der taler til os, ser ud til at være en, vi stoler på. Virksomheder forsøger at udvikle et digitalt vandmærke, der identificerer AI-genereret indhold, men Ingen af dem ser ud til at virke pålideligt endnu.
Selv hvis de udvikler en måde at markere AI-indhold på, hvordan vil de så tvinge folk til at bruge det? Indtil vi finder en måde, hvorpå vi straks kan se, hvornår noget er AI-genereret, skal vi være ekstra forsigtige med, hvad vi tror på.
Hvis det er for godt til at være sandt, er det det nok også.
