AI deep fakes narrede en finansmedarbejder i en multinational virksomhed til at overføre svimlende $25,6 millioner til svindlere.
Disse svindlere brugte AI-genererede forfalskninger til at efterligne udseendet og stemmen på medarbejderens seniorkolleger, herunder økonomidirektøren (CFO), under et videokonferenceopkald.
Det blev først rapporteret af CNN og viderebragt af seniorinspektør Baron Chan Shun-ching fra Hong Kong-politiets cybersikkerhedsafdeling, og det er sandsynligvis det mest omfattende AI deep fake-svindel, vi har set til dato.
Svindelnummeret begyndte med en vildledende besked, angiveligt fra virksomhedens britiske økonomidirektør, som inviterede medarbejderen til et videoopkald for at diskutere en fortrolig finansiel transaktion.
På trods af nogle mistanker og den hemmelige karakter af anmodningen, der rejste røde flag, fjernede de overbevisende dybe forfalskninger til sidst medarbejderens tvivl under videoopkaldet.
Efter de falske transaktioner kontaktede medarbejderen virksomhedens hovedkvarter, men indså først fejlen.
AI deep fakes er blevet brugt til en række svindelnumre, herunder flere rettet mod politiske og offentlige personer som Elon Musk og Hr. Bæst og Storbritanniens premierminister Rishi Sunak.
Studier finde ud af, at mennesker ikke længere kan skelne ægte ansigter fra sofistikerede forfalskninger, og nogle 1/4 af alle mennesker bliver snydt af AI-genererede stemmer.
Eddie Cumberbatch, der er influencer på de sociale medier, oplevede også en AI-svindel, da hans bedsteforældre modtog en Bedragerisk opkald, der udgiver sig for at være hans stemme. De dybe falske stemmer hævdede, at han havde været ude for et biluheld og havde akut brug for penge, hvilket har været et almindeligt tema i svindel af denne type.
Chan forklarede denne nylige svindelhændelse og bemærkede: "Medarbejderen blev lokket ind i en videokonference, som angiveligt havde mange deltagere. Personernes realistiske udseende fik medarbejderen til at udføre 15 transaktioner til fem lokale bankkonti til en samlet værdi af HK$200 millioner."
Chan understregede desuden vigtigheden af offentlighedens bevidsthed om AI-støttede vildledende taktikker og sagde: "Vi ønsker at advare offentligheden om disse nye vildledende taktikker. Svindlere udnytter nu AI-teknologi i onlinemøder, hvilket gør det afgørende for enkeltpersoner at være på vagt, selv i store grupper."
Sidste år sagde Steve Grobman, McAfees Chief Technology Officer, Advarede om dybt falsk bedrageri"En af de ting, der er vigtigst at anerkende med fremskridtene inden for AI i år, er, at det i høj grad handler om at bringe disse teknologier inden for rækkevidde af mange flere mennesker, herunder virkelig at muliggøre skalaen inden for cyberactorsamfundet."
"Cyberkriminelle er i stand til at bruge generativ AI til falske stemmer og deepfakes på måder, der tidligere krævede meget mere sofistikering."
Politiet i Hongkong opfordrer medarbejderne til at verificere mistænkelige mødeinvitationer gennem virksomhedens standardkommunikationskanaler og til at deltage i møder for at bekræfte deltagernes ægthed.
Folk bør også etablere kodeord med deres venner og familie for at beskytte sig mod dybt falsk bedrageri.
Hvis noget vækker mistanke, så spørg efter kodeordet, eller stil et personligt spørgsmål om dig selv, dem, din familie eller lignende.
