Google Cloud a publié ses prévisions en matière de cybersécurité et de cybercriminalité pour 2024 et la menace de l'IA figure en tête de liste.
Les escrocs utilisent depuis longtemps des courriels et des SMS de phishing, mais le rapport indique que les grands modèles de langage (LLM) vont les rendre plus difficiles à repérer.
Auparavant, vos soupçons ont peut-être été éveillés par les fautes de grammaire et d'orthographe que le "prince nigérian" a commises dans son courriel à propos d'une formidable opportunité financière qu'il souhaitait partager avec vous.
Un escroc peut désormais facilement faire passer son message par un LLM pour le traduire et le peaufiner avant qu'il n'atterrisse dans votre boîte de réception. Les prévisions tablent également sur le fait que les escrocs utiliseront un contenu légitime pour déclencher un LLM, puis généreront des versions modifiées qui ressembleront à s'y méprendre à l'original.
L'IA générative devrait également permettre aux escrocs de passer des tactiques traditionnelles de courrier électronique et de SMS à des escroqueries vocales et vidéo générées par l'IA.
Les LLM et l'IA générique permettront escrocs d'effectuer leur travail à grande échelle et de personnaliser davantage leurs messages pour des attaques personnalisées.
Les prévisions indiquent également qu'à mesure que les attaquants utilisent les fausses nouvelles pour escroquer les gens, la confiance de la société dans toutes les sources de nouvelles et d'informations s'érodera.
À quoi ressemblera la cybersécurité en 2024 ?
Obtenez votre exemplaire du rapport Google Cloud Cybersecurity Forecast 2024 pour obtenir des informations sur les tactiques et les opérations des attaquants au cours de l'année à venir →. https://t.co/APJfNoEQNC pic.twitter.com/1Kpr04nsUR
- Google Cloud (@googlecloud) 8 novembre 2023
La cybercriminalité par l'IA en tant que service
Au début de l'année, nous avons écrit sur FraudeGPTun chatbot ostensiblement conçu pour le piratage et l'escroquerie. Le scepticisme était de mise quant à l'utilité de cet outil pour aider les criminels, mais Google s'attend à ce que ce type d'outils se multiplie à l'avenir.
Les prévisions explique qu'il est probable que des outils de cybercriminalité basés sur l'IA soient proposés en tant que services. Selon le rapport, "ils seront proposés sur des forums clandestins en tant que services payants et utilisés à diverses fins telles que les campagnes de phishing et la diffusion de la désinformation".
La cybercriminalité vise généralement les particuliers ou les entreprises, mais les prévisions laissent entrevoir des objectifs autres que le gain financier.
Les élections présidentielles américaines se déroulant l'année prochaine, le rapport indique que "nous verrons des États-nations et d'autres acteurs de la menace s'engager dans une variété de cyberactivités, y compris l'espionnage et les opérations d'influence ciblant les systèmes électoraux, l'usurpation de l'identité des candidats sur les médias sociaux et les opérations d'information conçues pour cibler les électeurs eux-mêmes".
Les quatre grands
Selon les prévisions de Google, la Chine, la Russie, la Corée du Nord et l'Iran constituent les principales cybermenaces pour le reste du monde.
Outre l'espionnage, le rapport indique également que la Chine et la Russie continueront à cibler les pays africains par la désinformation, en particulier ceux qui possèdent des gisements de terres rares, essentielles à la fabrication de nombreux produits de haute technologie.
Les prévisions désignaient les Jeux olympiques de Paris de 2024 comme une cible spécifique pour les criminels et les acteurs anti-européens. Il semble que ce soit déjà le cas avec un deepfake de Tom Cruise critiquant le CIO.
Dans ce qui est censé être une promotion de Netflix, Tom Cruise semble dire que des fonctionnaires corrompus "détruisent lentement et douloureusement les sports olympiques qui existent depuis des milliers d'années".
Un "Tom Cruise" de l'IA se joint au barrage de fake news visant les Jeux olympiques.https://t.co/YV2Hkp1Hdp
- POLITICOEurope (@POLITICOEurope) 10 novembre 2023
Les athlètes russes n'ayant pas le droit de concourir sous le drapeau de leur pays, il y a fort à parier que des acteurs pro-Kremlin sont à l'origine de ce deepfake.
Les prévisions de Google sont peu réjouissantes et il semble qu'échapper complètement à la cybercriminalité alimentée par l'IA relève de la mission impossible.
