En färsk McAfee-rapport avslöjade den alarmerande ökningen av bedrägerier som använder AI-stödd röstkloning.
Så kallade "imposter scams" är inget nytt. De Federal Trade Commission avslöjar att sådana bedrägerier orsakade en massiv förlust på $2,6 miljarder i USA enbart under 2022, vilket motsvarar en ökning med 30% från året innan.
Dessa bedrägerier, som också kallas "family emergency"-bedrägerier, innebär att bedragaren manipulerar offret till att tro att en nära anhörig är i akut behov av pengar.
I en nyligen genomförd McAfee-undersökningI McAfees studie rapporterade 1 av 4 respondenter att de råkat ut för bedrägerier med AI-röst, medan 1 av 10 erkände att de blivit personligt utsatta. McAfees studie visar att bedragare kan klona röster från ljudsnuttar som hämtats från klipp i sociala medier.
Till exempel upplevde Eddie Cumberbatch, som har över 100.000 följare, en AI-bedrägeri när hans morföräldrar fick ett Bedrägligt samtal som utgav sig för att vara hans röst. De påstod att han hade varit med om en förödande bilolycka och var i akut behov av pengar.
I en annan incident förlorade ett kanadensiskt par $21.000 i kanadensiska dollar (US $15.449) till en liknande AI-röstbedrägeri.
En AI-klon av Benjamin Perkins röst övertygade hans föräldrar om att han satt fängslad för att ha råkat döda en diplomat i en bilolycka och att han behövde pengar till advokatkostnader. Hans föräldrar gick med på det och Perkins avslöjad för Washington Post"Det finns ingen försäkring. Det går inte att få tillbaka den. Den är borta."
Som svar på det ökande AI-bedrägeriet varnade Steve Grobman, McAfees Chief Technology Officer: "En av de saker som är viktigast att känna igen med framstegen inom AI i år är att det till stor del handlar om att få dessa tekniker att nå många fler människor, inklusive att verkligen möjliggöra skalan inom cyberaktörssamhället. Cyberbrottslingar kan använda generativ AI för falska röster och deepfakes på sätt som tidigare krävde mycket mer sofistikering."
Vad McAfee-rapporten säger om AI-bedrägerier
Enligt färska uppgifter från McAfee utnyttjar röstbedrägerier vanligtvis offrens känslomässiga band till sina nära och kära.
1 av 10 tillfrågade personer har blivit utsatta för personangrepp och 15% uppgav att någon de känner har blivit utsatt.
Problemet verkar vara störst i Indien, där 47% av de tillfrågade rapporterade erfarenhet av denna typ av bedrägeri, med USA på andra plats med 14% och Storbritannien med 8%. 36% av alla tillfrågade vuxna uppgav att de aldrig hade hört talas om bedrägeriet.
Nästan hälften (45%) av befolkningen är benägna att svara på en begäran om pengar om den kommer från en vän eller nära anhörig, och vissa påhittade scenarier verkar mer övertygande.
Högst upp på listan hamnar en bilolycka eller ett bilhaveri, där 48% av de tillfrågade anger att de sannolikt skulle reagera på en sådan situation. Detta följs tätt av ett rapporterat rån, med 47%.
Om den som ringer säger sig ha tappat bort sin telefon eller plånbok är det 43% som svarar, medan 41% skulle hjälpa den som säger sig vara på resa utomlands och behöver hjälp.
Omkring 40% av de svarande sa att de sannolikt skulle svara en partner eller make, medan deras mor kom in på 24%. För föräldrar som är 50 år eller äldre är 41% mest benägna att svara om samtalet påstås komma från deras barn.
Intressant nog handlar de flesta kända fall om föräldrar eller mor- och farföräldrar som rapporterar att en bedragare har klonat deras barns eller barnbarns röst för att genomföra bedrägeriet.
Var medveten om AI-bedrägerier
McAfee ger flera rekommendationer för att undvika bedrägerier med AI-röst:
- Skapa ett unikt "kodord" med dina barn, familjemedlemmar eller nära vänner. Om du får ett misstänkt nödsamtal, fråga efter kodordet.
- Ifrågasätt alltid källan. Oavsett om det är ett samtal, sms eller e-post från en okänd avsändare eller till och med ett nummer som du känner igen, ta en stund att tänka. Ställ frågor som en bedragare inte skulle kunna svara på, till exempel "Kan du bekräfta min sons namn?" eller "När fyller din far år?". Den här taktiken kan göra bedragaren orolig och skapa onaturliga pauser i samtalet, vilket väcker misstankar.
- Behåll känslomässig kontroll. Cyberbrottslingar utnyttjar dina känslomässiga band till den person de utger sig för att vara för att framkalla en förhastad reaktion. Ta ett steg tillbaka och bedöm situationen innan du reagerar.
- Var försiktig med oväntade samtal från okända nummer.
AI-relaterade bedrägerier blir allt vanligare, och det finns inget enkelt sätt att hantera dem. I en intervju med Fox News nyligen sa en cybersäkerhetsanalytiker att detta kan kosta Amerikaner $1tn ett år om den lämnas omarkerad.
Utbildning kring frågan, inklusive användning av kodord och annan taktik för att skrämma bedragare, är kanske det mest effektiva sättet att hantera röstbedrägerier för tillfället.
