AI deep fakes lurade en finansanställd på ett multinationellt företag att överföra svindlande $25,6 miljoner kronor till bedragare.
Dessa bedragare använde AI-genererade förfalskningar för att efterlikna utseendet och rösten hos den anställdes seniora kollegor, inklusive finanschefen (CFO), under ett videokonferenssamtal.
Detta rapporterades först av CNN och vidarebefordrades av senior superintendent Baron Chan Shun-ching från Hong Kong-polisens cybersäkerhetsavdelning och är förmodligen den AI-djupa falska bluffen med högsta insats som vi har sett hittills.
Bedrägeriet inleddes med ett vilseledande meddelande, som påstods komma från företagets finansdirektör i Storbritannien, där den anställde bjöds in till ett videosamtal för att diskutera en konfidentiell finansiell transaktion.
Trots att vissa misstankar och den hemliga karaktären på begäran väckte röda flaggor, skingrade de övertygande djupa förfalskningarna så småningom medarbetarens tvivel under videosamtalet.
Efter de bedrägliga transaktionerna kontaktade den anställde företagets huvudkontor, bara för att inse misstaget.
AI deep fakes har använts för en rad bedrägerier, inklusive flera som riktar sig mot politiska och offentliga personer som Elon Musk och Mr Beast och Storbritanniens premiärminister Rishi Sunak.
Studier att människor inte längre på ett tillförlitligt sätt kan skilja riktiga ansikten från sofistikerade förfalskningar, och vissa 1/4 av befolkningen luras av AI-genererade röster.
Eddie Cumberbatch, influencer på sociala medier, upplevde också en AI-bedrägeri när hans farföräldrar fick ett Bedrägligt samtal som utgav sig för att vara hans röst. De djupa falska rösterna påstod att han hade råkat ut för en bilolycka och var i akut behov av pengar, vilket har varit ett vanligt tema i bedrägerier av den här typen.
Chan förklarade den senaste bedrägerihändelsen: "Den anställde lurades in i en videokonferens som sades ha många deltagare. Det realistiska utseendet på personerna i samtalet ledde till att den anställde genomförde 15 transaktioner till fem lokala bankkonton, till ett totalt belopp av 1,4 miljarder Hongkongkronor."
Chan betonade vidare vikten av allmänhetens medvetenhet om AI-stödd bedräglig taktik och sa: "Vi vill varna allmänheten för dessa nya bedrägeritaktiker. Bedragare utnyttjar nu AI-teknik i onlinemöten, vilket gör det avgörande för individer att vara vaksamma även i stora gruppkonstellationer."
Förra året presenterade Steve Grobman, McAfees Chief Technology Officer, varnade för djupt falskt bedrägeri"En av de saker som är viktigast att känna igen med framstegen inom AI i år är att det till stor del handlar om att få dessa tekniker att nå många fler människor, inklusive att verkligen möjliggöra skalan inom cyberaktörssamhället."
"Cyberbrottslingar kan använda generativ AI för falska röster och deepfakes på sätt som tidigare krävde mycket mer sofistikerade metoder."
Hongkongpolisen uppmanar anställda att verifiera misstänkta mötesinbjudningar via företagets vanliga kommunikationskanaler och att delta i möten för att bekräfta deltagarnas äkthet.
Människor bör också etablera kodord med sina vänner och familj för att skydda sig mot djupt falska bedrägerier.
Om något väcker misstankar kan du be om kodordet eller ställa en personlig fråga om dig själv, dem, din familj eller liknande.
