Storbritanniens National Cyber Security Centre (NCSC) har for nylig udgivet en vigtig rapport, der giver en grundig vurdering af, hvordan AI er klar til at påvirke cybertrusselslandskabet i løbet af de næste to år.
Denne rapport følger op på diskussionerne på Bletchley AI sikkerhedstopmøde i november 2023, hvor AI's "dobbelte natur" som både en fordel og en cybersikkerhedsrisiko var et centralt fokus.
Mens AI-fremskridt giver nye muligheder for cyberforsvar, baner de også vejen for mere sofistikerede cyberangreb, som er sværere at opdage.
Rapporten peger på en fremtid, hvor cybersikkerhedslandskabet bliver stadig mere komplekst, og hvor AI spiller en central rolle i både forsvaret mod og faciliteringen af cybertrusler.
Nøgle risici fra rapporten inkluderer:
- Intensiveret mængde og effekt af cyberangreb: AI kommer til at øge hyppigheden og alvoren af cyberangreb.
- Lavere barrierer for cyberkriminelle på begynderniveau: AI-teknologier gør det lettere for amatører og uerfarne cyberkriminelle at udføre effektive cyberangreb.
- Udbredt tilgængelighed af AI-aktiverede cyberkapaciteter: Den stigende tilgængelighed af AI-værktøjer på kriminelle og kommercielle markeder vil sandsynligvis bevæbne cybertrusselsaktører med nye tilgange.
- Øgede udfordringer inden for cyberresiliens: AI vil gøre det sværere at skelne mellem legitim og ondsindet kommunikation og dermed øge udfordringerne i forbindelse med cybersikkerhedsstyring.
- Social manipulation: AI forbedrer trusselsaktørernes evne til social engineering ved at generere autentisk udseende lokkedokumenter og kommunikation, der er nødvendig for phishing-svindel.
- Udvikling af malware og exploits: AI vil sandsynligvis hjælpe med at udvikle malware og exploits og gøre eksisterende teknikker mere effektive.
- Rekognoscering: AI vil forbedre rekognosceringsaktiviteter og hjælpe trusselsaktører med at identificere aktiver af høj værdi til undersøgelse og exfiltrering (en uautoriseret dataoverførsel) hurtigere.
Lindy Cameron, administrerende direktør for NCSC, forklarede rapporten: "Den nye brug af AI i cyberangreb er evolutionær og ikke revolutionerende, hvilket betyder, at den forbedrer eksisterende trusler som ransomware, men ikke ændrer risikolandskabet på kort sigt."
Det kan føre til en stigning i cyberangreb, især ransomware, fra mindre erfarne personer eller grupper. Men meget dygtige statslige trusselsaktører er fortsat bedst positioneret til at bruge AI til at udvikle avanceret malware.
Vi har allerede set potentialet i svindelorienterede generative AI-værktøjer som FraudGPT og WormGPT.
Ligesom NCSC har tidligere rapporter i samme stil også fremhævet AI's demokratisering og skalering af cyberangreb, herunder OpenAI, som for nylig annonceret sine planer om at slå ned på misinformation om valget og deep fakes.
OpenAI er arbejder nu sammen med det amerikanske forsvarsministerium for at støtte og innovere cyberforsvar, blandt andet, og annoncerede en $1 million i tilskud for løsninger sidste år.
