Google Cloud publicó sus previsiones de ciberseguridad y ciberdelincuencia para 2024 y la amenaza de la IA encabeza su lista.
Los estafadores llevan mucho tiempo utilizando correos electrónicos y mensajes SMS de phishing, pero el informe afirma que los grandes modelos lingüísticos (LLM) van a dificultar su detección.
Anteriormente, sus sospechas pueden haber surgido por la mala gramática y ortografía que el "príncipe nigeriano" utilizó en su correo electrónico sobre una gran oportunidad financiera que quería compartir con usted.
Ahora, un estafador puede pasar fácilmente su propuesta por un LLM para traducirla y pulirla antes de que llegue a tu bandeja de entrada. El pronóstico también prevé que los estafadores utilicen contenido legítimo para incitar a un LLM y luego generen versiones modificadas que se parezcan al original.
También se espera que la IA generativa permita a los estafadores pasar de las tácticas tradicionales de correo electrónico y SMS a las estafas de voz y vídeo generadas por IA.
Los LLM y la IA de género permitirán estafadores para hacer su trabajo a escala y también hacer que sus mensajes sean mucho más personalizados para ataques personalizados.
La previsión también señalaba que, a medida que los atacantes utilicen noticias falsas para estafar a la gente, se erosionará la confianza de la sociedad en todas las fuentes de noticias e información.
¿Cómo será la ciberseguridad en 2024?
Consigue tu copia del informe Google Cloud Cybersecurity Forecast 2024 para conocer las tácticas y operaciones de los atacantes en el próximo año →. https://t.co/APJfNoEQNC pic.twitter.com/1Kpr04nsUR
- Google Cloud (@googlecloud) 8 de noviembre de 2023
Ciberdelincuencia como servicio
A principios de año escribimos sobre FraudeGPTun chatbot aparentemente creado específicamente para piratear y estafar. Hubo bastante escepticismo sobre su utilidad para ayudar a los delincuentes, pero Google espera que veamos más herramientas de este tipo en el futuro.
La previsión explicaba que es probable que veamos herramientas de ciberdelincuencia basadas en IA ofrecidas como servicio. Según el informe, "se ofrecerán en foros clandestinos como servicio de pago y se utilizarán para diversos fines, como campañas de phishing y difusión de desinformación."
La ciberdelincuencia suele dirigirse contra particulares o empresas, pero las previsiones apuntan a objetivos distintos del beneficio económico.
Con motivo de las elecciones presidenciales estadounidenses del año que viene, el informe afirma: "Veremos cómo los Estados nación y otros actores de amenazas se involucran en una variedad de actividades cibernéticas, incluyendo espionaje y operaciones de influencia dirigidas a los sistemas electorales, suplantación de candidatos en las redes sociales y operaciones de información diseñadas para atacar a los propios votantes."
Los Cuatro Grandes
Las previsiones de Google señalan a China, Rusia, Corea del Norte e Irán como las principales amenazas cibernéticas para el resto del mundo.
Además del espionaje, también afirma que China y Rusia seguirán atacando a los países africanos con desinformación, especialmente a los países con yacimientos de tierras raras, esenciales en muchos productos de alta tecnología.
El pronóstico señalaba a los Juegos Olímpicos de París 2024 como un objetivo específico al que se dirigirían los delincuentes y los actores antieuropeos. Esto parece estar ocurriendo ya con un deepfake de Tom Cruise que aparece criticando al COI.
En lo que pretende ser una promo de Netflix, Tom Cruise parece decir que los funcionarios corruptos están "destruyendo lenta y dolorosamente los deportes olímpicos que han existido durante miles de años."
Un "Tom Cruise" de inteligencia artificial se une al aluvión de noticias falsas contra los Juegos Olímpicos.https://t.co/YV2Hkp1Hdp
- POLITICOEurope (@POLITICOEurope) 10 de noviembre de 2023
Dado que los atletas rusos no pueden competir bajo la bandera de su país, es probable que los actores pro-Kremlin sean la fuente de este deepfake.
Las previsiones de Google son desalentadoras y parece que eludir por completo la ciberdelincuencia impulsada por la IA puede ser una misión imposible.
