Des simulacres d'IA ont trompé un employé financier d'une multinationale et l'ont incité à transférer un montant stupéfiant de $25,6 millions d'euros à des fraudeurs.
Ces escrocs ont utilisé des faux générés par l'IA pour imiter l'apparence et la voix des collègues supérieurs de l'employé, y compris le directeur financier, au cours d'une vidéoconférence.
D'abord rapportée par CNN et relayée par le surintendant principal Baron Chan Shun-ching de la division de la cybersécurité de la police de Hong Kong, il s'agit probablement de l'escroquerie la plus importante que nous ayons vue à ce jour en matière d'IA deep fake.
L'escroquerie a commencé par un message trompeur, prétendument envoyé par le directeur financier de l'entreprise basé au Royaume-Uni, invitant l'employé à un appel vidéo pour discuter d'une transaction financière confidentielle.
Malgré quelques soupçons et la nature secrète de la demande, les contrefaçons convaincantes ont fini par dissiper les doutes de l'employé au cours de l'appel vidéo.
Suite aux transactions frauduleuses, l'employé a contacté le siège de l'entreprise, avant de se rendre compte de l'erreur.
L'IA deep fakes a été utilisée pour une série d'escroqueries, dont plusieurs visant des personnalités politiques et publiques telles qu'Elon Musk et Monsieur Bête et Premier ministre britannique Rishi Sunak.
Études Les chercheurs ont découvert que les humains ne peuvent plus distinguer de manière fiable les vrais visages des faux sophistiqués, et certains d'entre eux ont même découvert qu'il n'y a pas de différence entre les visages et les faux. 1/4 des personnes sont trompées par des voix générées par l'IA.
L'influenceur des médias sociaux Eddie Cumberbatch a lui aussi été victime d'une escroquerie à l'IA lorsque ses grands-parents ont reçu une lettre d'information. appel frauduleux se faisant passer pour sa voix. Les fausses voix profondes prétendaient qu'il avait été victime d'un accident de voiture et qu'il avait un besoin urgent d'argent, ce qui est un thème courant dans les escroqueries de ce type.
M. Chan a expliqué ce récent cas de fraude en précisant : "L'employé a été attiré dans une vidéoconférence qui était censée compter de nombreux participants. L'apparence réaliste des personnes participant à l'appel a conduit l'employé à effectuer 15 transactions sur cinq comptes bancaires locaux, pour un montant total de $200 millions de HK".
M. Chan a en outre souligné l'importance de la sensibilisation du public aux tactiques trompeuses fondées sur l'IA : "Nous voulons alerter le public sur ces nouvelles tactiques de tromperie. Les fraudeurs utilisent désormais la technologie de l'IA dans les réunions en ligne, d'où la nécessité de rester vigilant, même dans les grands groupes."
L'année dernière, Steve Grobman, directeur de la technologie de McAfee, a déclaré : "Nous avons besoin d'un système de gestion de l'information, Mise en garde contre les fraudes profondesL'une des choses les plus importantes à reconnaître avec les progrès de l'IA cette année est qu'il s'agit en grande partie de mettre ces technologies à la portée d'un plus grand nombre de personnes, y compris en permettant vraiment l'échelle au sein de la communauté des cyberacteurs".
"Les cybercriminels sont en mesure d'utiliser l'IA générative pour créer de fausses voix et des deepfakes d'une manière qui nécessitait auparavant beaucoup plus de sophistication."
La police de Hong Kong recommande vivement aux employés de vérifier les invitations à des réunions suspectes par les canaux de communication habituels de l'entreprise et de participer aux réunions pour confirmer l'authenticité des participants.
Les gens devraient également établir des mots de code avec leurs amis et leur famille pour se protéger contre les fraudes profondes.
Si quelque chose éveille les soupçons, demandez-lui le mot de passe ou posez-lui une question personnelle sur vous, sur eux, sur votre famille, etc.
