In een video op TikTok leek YouTube influencer MrBeast 10.000 iPhone 15 Pro telefoons aan te bieden aan volgers voor $2 per stuk.
Doe geen moeite om je creditcard tevoorschijn te halen, want de video was een AI-gegenereerde deepfake die op de een of andere manier de inhoudsmoderatie van TikTok omzeilde.
MrBeast, wiens echte naam Jimmy Donaldson is, domineert YouTube met 189 miljoen abonnees op zijn kanaal. Zijn video's zijn behoorlijk schandalig en laten hem dingen doen als het weggeven van een $800k eiland of $1m die gebruikers in een minuut moeten uitgeven.
Het is je dus vergeven als je even gelooft dat hij iets geks doet als 10.000 iPhones weggeven. De vooruitbetaling van $2 had echter al een hint moeten zijn dat dit oplichterij was.
De video was een beetje glitchy, maar het ziet eruit en klinkt net als MrBeast dus het heeft waarschijnlijk veel mensen voor de gek gehouden voordat TikTok het uiteindelijk verwijderde.
Veel mensen krijgen deze deepfake scam advertentie van mij... zijn sociale mediaplatforms klaar voor de opkomst van AI deepfakes? Dit is een serieus probleem pic.twitter.com/llkhxswQSw
- MrBeast (@MrBeast) 3 oktober 2023
TikTok heeft een verificatieproces voor nieuwe aanmeldingen en een beleid voor het modereren van inhoud, maar geen daarvan heeft deze nepadvertentie onderschept. In een reactie op de tweet van MrBeast stond "Geverifieerd worden op TikTok is net zo makkelijk als een dutje doen."
MrBeast vroeg "Zijn sociale mediaplatforms klaar voor de opkomst van AI deepfakes?" en het voor de hand liggende antwoord is, nee dat zijn ze niet.
In de afgelopen week hebben we het volgende gezien AI deepfakes van Tom Hanks in een tandartsreclame en Gayle King die een afslankproduct aanbeveelt.
Bekijk dit bericht op Instagram
Opgelicht worden voor $2 of een afslankproduct kopen dat niet echt werkt, is het laagste punt van de potentiële schade die AI deepfakes kunnen veroorzaken.
Het potentieel voor het verstoren van verkiezingen of het verspreiden van schadelijke desinformatie wordt versterkt wanneer de persoon die tegen ons praat iemand lijkt te zijn die we vertrouwen. Bedrijven proberen een digitaal watermerk te ontwikkelen dat AI-gegenereerde inhoud identificeert, maar geen enkele lijkt te werken betrouwbaar.
Zelfs als ze een manier ontwikkelen om AI-inhoud te markeren, hoe kunnen ze mensen dan dwingen om het te gebruiken? Totdat we een manier vinden om direct te weten wanneer iets AI-gegenereerd is, moeten we extra voorzichtig zijn met wat we geloven.
Als het te mooi is om waar te zijn, is het dat waarschijnlijk ook.
