Falsificaciones profundas de IA engañaron a un trabajador financiero de una multinacional para que transfiriera la asombrosa cantidad de $25,6 millones a los estafadores.
Estos estafadores utilizaron falsificaciones generadas por IA para imitar la apariencia y la voz de los colegas de alto rango del empleado, incluido el director financiero (CFO), durante una llamada de videoconferencia.
Informada por primera vez por la CNN y transmitida por el superintendente Baron Chan Shun-ching, de la división de ciberseguridad de la policía de Hong Kong, se trata probablemente de la mayor estafa de falsificación profunda de IA que hemos visto hasta la fecha.
La estafa comenzaba con un mensaje engañoso, supuestamente del director financiero de la empresa con sede en el Reino Unido, en el que se invitaba al empleado a una videollamada para hablar de una transacción financiera confidencial.
A pesar de que algunas sospechas y el carácter reservado de la solicitud levantaron banderas rojas, las convincentes falsificaciones profundas acabaron por disipar las dudas del empleado durante la videollamada.
Tras las transacciones fraudulentas, el empleado se puso en contacto con la sede de la empresa, donde se dio cuenta del error.
Las falsificaciones profundas de IA se han utilizado para una serie de estafas, incluidas varias dirigidas a figuras políticas y públicas como Elon Musk y Sr. Bestia y Primer Ministro británico Rishi Sunak.
Estudios que los humanos ya no pueden distinguir con fiabilidad las caras reales de las falsificaciones sofisticadas, y algunos 1/4 de las personas son engañadas por voces generadas por IA.
El influencer en redes sociales Eddie Cumberbatch también sufrió una estafa de IA cuando sus abuelos recibieron un llamada fraudulenta suplantando su voz. Las profundas voces falsas afirmaban que había sufrido un accidente de coche y necesitaba dinero urgentemente, un tema habitual en las estafas de este tipo.
Chan explicó este reciente incidente de fraude señalando: "El trabajador fue atraído a una videoconferencia en la que se decía que había muchos participantes. La apariencia realista de los individuos en la llamada llevó al empleado a ejecutar 15 transacciones a cinco cuentas bancarias locales, por un importe total de $200 millones de HK."
Chan subrayó además la importancia de la concienciación pública sobre las tácticas de engaño apoyadas en la IA, afirmando: "Queremos alertar al público sobre estas nuevas tácticas de engaño. Los estafadores aprovechan ahora la tecnología de IA en las reuniones en línea, por lo que es crucial que las personas se mantengan alerta incluso en entornos de grupos grandes."
El año pasado, Steve Grobman, Director de Tecnología de McAfee, advierte de un fraude profundo"Una de las cosas más importantes que hay que reconocer con los avances en IA de este año es que se trata en gran medida de poner estas tecnologías al alcance de mucha más gente, lo que incluye realmente permitir la escala dentro de la comunidad de ciberactores".
"Los ciberdelincuentes son capaces de utilizar IA generativa para voces falsas y deepfakes de formas que antes requerían mucha más sofisticación".
La policía de Hong Kong insta a los empleados a verificar las invitaciones a reuniones sospechosas a través de los canales de comunicación habituales de la empresa y a participar en las reuniones para confirmar la autenticidad de los participantes.
La gente también debería establecer palabras clave con sus amigos y familiares para protegerse de los fraudes en profundidad.
Si algo levanta sospechas, pregúnteles la palabra clave o hágales una pregunta personal sobre usted, ellos, su familia o similar.
