En finansansatt i et multinasjonalt selskap ble lurt til å overføre svimlende $25,6 millioner kroner til svindlere.
Svindlerne brukte AI-genererte forfalskninger for å etterligne utseendet og stemmen til den ansattes seniorkolleger, inkludert finansdirektøren (CFO), under en videokonferansesamtale.
Dette ble først rapportert av CNN og videreformidlet av overbetjent Baron Chan Shun-ching fra Hong Kong-politiets cybersikkerhetsavdeling, og er sannsynligvis den mest omfattende AI-svindelen vi har sett til dags dato.
Svindelen begynte med en villedende melding, angivelig fra selskapets finansdirektør i Storbritannia, der den ansatte ble invitert til en videosamtale for å diskutere en konfidensiell finansiell transaksjon.
Til tross for at noen mistenkte at forespørselen var hemmelighetsfull og ga grunn til mistanke, fikk de overbevisende, dype forfalskningene til slutt de ansattes tvil til å forsvinne under videosamtalen.
Etter de falske transaksjonene kontaktet den ansatte selskapets hovedkontor, men innså først da feilen var begått.
AI deep fakes har blitt brukt til en rekke svindelforsøk, inkludert flere rettet mot politiske og offentlige personer som Elon Musk og Mr Beast og Storbritannias statsminister Rishi Sunak.
Studier at mennesker ikke lenger kan skille ekte ansikter fra sofistikerte forfalskninger, og noen 1/4 av befolkningen lar seg lure av AI-genererte stemmer.
Eddie Cumberbatch, en influencer på sosiale medier, opplevde også en AI-svindel da besteforeldrene hans mottok en svindelanrop som utgir seg for å være hans stemme. De dype, falske stemmene hevdet at han hadde vært utsatt for en bilulykke og trengte penger, noe som har vært et vanlig tema i svindelforsøk av denne typen.
Chan forklarte den nylige svindelsaken slik: "Medarbeideren ble lokket inn i en videokonferanse som etter sigende skulle ha mange deltakere. Det realistiske utseendet til personene i samtalen fikk den ansatte til å utføre 15 transaksjoner til fem lokale bankkontoer, til et samlet beløp på HK$200 millioner."
Chan understreket videre viktigheten av å bevisstgjøre allmennheten om AI-støttede svindeltaktikker, og sa: "Vi ønsker å advare publikum om disse nye svindeltaktikkene. Svindlere utnytter nå AI-teknologi i nettmøter, noe som gjør det avgjørende for enkeltpersoner å være på vakt, selv i store grupper."
I fjor sa Steve Grobman, teknologidirektør i McAfee, advarte mot omfattende svindel"Noe av det viktigste å erkjenne når det gjelder fremskrittene innen AI i år, er at det i stor grad handler om å gjøre disse teknologiene tilgjengelige for mange flere mennesker, blant annet ved å gjøre det mulig å øke omfanget i cyberaktørsamfunnet."
"Cyberkriminelle kan bruke generativ AI til å lage falske stemmer og deepfakes på måter som tidligere krevde mye mer sofistikerte metoder."
Politiet i Hongkong oppfordrer ansatte til å verifisere mistenkelige møteinvitasjoner gjennom bedriftens vanlige kommunikasjonskanaler og til å delta i møter for å bekrefte at deltakerne er ekte.
Folk bør også etablere kodeord med venner og familie for å beskytte seg mot dyp falsk svindel.
Hvis noe vekker mistanke, kan du be om kodeordet eller stille dem et personlig spørsmål om deg selv, dem, familien din eller lignende.
