En video på TikTok så ut til å vise YouTube-påvirkeren MrBeast som tilbyr 10 000 iPhone 15 Pro-telefoner til følgere for $2 hver.
Ikke ta frem kredittkortet, for videoen var en AI-generert deepfake som på en eller annen måte unngikk TikToks innholdsmoderering.
MrBeast, hvis virkelige navn er Jimmy Donaldson, dominerer YouTube med 189 millioner abonnenter på kanalen sin. Videoene hans er ganske opprørende og ser ham gjøre ting som å gi bort en $800k øy eller $1m som brukerne må bruke på et minutt.
Så du ville bli tilgitt for å tro at han ville gjøre noe så sprøtt som å gi bort 10 000 iPhones. Forskuddsbetalingen på $2 burde imidlertid ha vært et hint om at dette var en svindel.
Videoen var litt glitchy, men den ser ut og høres ut akkurat som MrBeast, så den lurte nok mange før TikTok til slutt tok den ned.
Mange får denne deepfake-svindelen annonsert av meg ... er sosiale medier klare til å håndtere fremveksten av AI-deepfakes? Dette er et alvorlig problem pic.twitter.com/llkhxswQSw
- MrBeast (@MrBeast) 3. oktober 2023
TikTok har en verifiseringsprosess på plass for nye kontoer og retningslinjer for innholdsmoderering, men ingen av disse fanget opp denne falske annonsen. En kommentar til MrBeasts tweet sa "Å bli bekreftet på TikTok er like enkelt som å ta en lur."
MrBeast spurte "Er sosiale medieplattformer klare til å håndtere fremveksten av AI-deepfakes?", og det åpenbare svaret er at nei, det er de ikke.
Bare i løpet av den siste uken har vi sett AI-deepfakes av Tom Hanks i en tannlegespot og Gayle King som reklamerer for et slankeprodukt.
Se dette innlegget på Instagram
Å bli svindlet for $2 eller kjøpe et vekttapsprodukt som egentlig ikke fungerer, er i den lave enden av den potensielle skaden AI-deepfakes kan forårsake.
Potensialet for å forstyrre valg eller spre skadelig desinformasjon forsterkes når personen som snakker til oss, ser ut til å være noen vi stoler på. Selskaper prøver å utvikle et digitalt vannmerke som identifiserer AI-generert innhold, men ingen av dem ser ut til å fungere pålitelig ennå.
Selv om de utvikler en måte å merke AI-innhold på, hvordan skal de tvinge folk til å bruke det? Inntil vi finner en måte å umiddelbart vite når noe er AI-generert, må vi være ekstra forsiktige med hva vi tror på.
Hvis det er for godt til å være sant, er det sannsynligvis det.
