Le Centre national de cybersécurité (NCSC) du Royaume-Uni a récemment publié un rapport essentiel, qui fournit une évaluation approfondie de la manière dont l'IA est sur le point d'influencer le paysage des cybermenaces au cours des deux prochaines années.
Ce rapport fait suite aux discussions qui ont eu lieu lors de la Sommet de Bletchley sur la sécurité de l'IA en novembre 2023, où la "double nature" de l'IA, à la fois avantageuse et dangereuse pour la cybersécurité, a été au centre des débats.
Si les progrès de l'IA offrent de nouvelles possibilités en matière de cyberdéfense, ils ouvrent également la voie à des cyberattaques plus sophistiquées et plus difficiles à détecter.
Le rapport suggère un avenir où le paysage de la cybersécurité devient de plus en plus complexe, l'IA jouant un rôle central à la fois dans la défense contre les cybermenaces et dans leur facilitation.
Clé risques du rapport inclure :
- Intensification du volume et de l'impact des cyberattaques: L'IA devrait accroître la fréquence et la gravité des cyberattaques.
- Abaisser les barrières pour les cybercriminels débutants: Les technologies de l'IA permettent aux cybercriminels amateurs et novices d'exécuter plus facilement des cyberattaques efficaces.
- Disponibilité généralisée des capacités cybernétiques basées sur l'IA: L'accessibilité croissante des outils d'IA sur les marchés criminels et commerciaux est susceptible d'armer les acteurs de la cybermenace avec de nouvelles approches.
- Des défis accrus en matière de cyber-résilience: L'IA compliquera la distinction entre les communications légitimes et malveillantes, ce qui amplifiera les défis en matière de gestion de la cybersécurité.
- Ingénierie sociale: L'IA renforce les capacités des acteurs de la menace en matière d'ingénierie sociale en générant des documents et des communications d'apparence authentique nécessaires aux escroqueries par hameçonnage.
- Développement de logiciels malveillants et d'exploits: L'IA est susceptible de contribuer au développement de logiciels malveillants et d'exploits, en rendant les techniques existantes plus efficaces.
- Reconnaissance: L'IA améliorera les activités de reconnaissance, aidant les acteurs de la menace à identifier les actifs de grande valeur pour les examiner et les exfiltrer (un transfert de données non autorisé) plus rapidement.
Lindy Cameron, directrice générale du NCSC, a expliqué le rapport : "L'utilisation émergente de l'IA dans les cyberattaques est évolutive et non révolutionnaire, ce qui signifie qu'elle renforce les menaces existantes telles que les ransomwares mais ne transforme pas le paysage des risques à court terme."
Cela pourrait entraîner une recrudescence des cyberattaques, en particulier des ransomwares, de la part d'individus ou de groupes moins expérimentés. Toutefois, les acteurs étatiques très compétents restent les mieux placés pour utiliser l'IA dans le développement de logiciels malveillants avancés.
Nous avons déjà constaté le potentiel des outils d'IA générative axés sur la fraude comme FraudGPT et WormGPT.
À l'instar du NCSC, des rapports antérieurs ont également mis en évidence la démocratisation de l'IA et la multiplication des cyberattaques. a récemment annoncé ses projets de lutte contre la désinformation électorale et les "deep fakes".
OpenAI est qui travaille actuellement avec le ministère américain de la défense pour soutenir et innover en matière de cyberdéfenses, entre autres, et a annoncé une $1 million d'euros de subvention pour trouver des solutions l'année dernière.
