Das National Cyber Security Centre (NCSC) des Vereinigten Königreichs hat kürzlich einen wichtigen Bericht veröffentlicht, der eine gründliche Bewertung der Auswirkungen von KI auf die Cyberbedrohungslandschaft in den nächsten zwei Jahren enthält.
Dieser Bericht schließt an die Diskussionen auf der Bletchley AI-Sicherheitsgipfel im November 2023, bei der die "doppelte Natur" der KI als Nutzen und Risiko für die Cybersicherheit im Mittelpunkt stand.
KI-Fortschritte eröffnen zwar neue Möglichkeiten für die Cyberabwehr, ebnen aber auch den Weg für raffiniertere und schwerer zu entdeckende Cyberangriffe.
Der Bericht deutet auf eine Zukunft hin, in der die Cybersicherheitslandschaft immer komplexer wird und KI eine zentrale Rolle sowohl bei der Abwehr als auch bei der Erleichterung von Cyberbedrohungen spielt.
Schlüssel Risiken aus dem Bericht umfassen:
- Umfang und Auswirkungen von Cyberangriffen nehmen zu: Die KI wird die Häufigkeit und Schwere von Cyberangriffen erhöhen.
- Niedrigere Hürden für Cyber-Kriminelle auf der Einstiegsebene: KI-Technologien machen es für Amateur- und Anfänger-Cyberkriminelle einfacher, wirksame Cyberangriffe durchzuführen.
- Weitverbreitete Verfügbarkeit von KI-gestützten Cyber-Fähigkeiten: Die zunehmende Zugänglichkeit von KI-Tools auf kriminellen und kommerziellen Märkten wird Cyber-Bedrohungsakteure mit neuen Ansätzen ausstatten.
- Erhöhte Herausforderungen bei der Cyber-Resilienz: KI wird die Unterscheidung zwischen legitimer und bösartiger Kommunikation erschweren und damit die Herausforderungen für das Management der Cybersicherheit vergrößern.
- Social Engineering: KI verbessert die Fähigkeiten von Bedrohungsakteuren im Bereich Social Engineering, indem sie authentisch aussehende Köderdokumente und Mitteilungen erstellt, die für Phishing-Betrügereien erforderlich sind.
- Entwicklung von Malware und Exploits: KI wird wahrscheinlich bei der Entwicklung von Malware und Exploits helfen und bestehende Techniken effizienter machen.
- Aufklärungsarbeit: KI wird die Aufklärungsaktivitäten verbessern und den Bedrohungsakteuren dabei helfen, hochwertige Objekte schneller zu identifizieren, um sie zu untersuchen und zu exfiltrieren (unautorisierte Datenübertragung).
Lindy Cameron, Chief Executive des NCSC, erläuterte den Bericht: "Der aufkommende Einsatz von KI bei Cyberangriffen ist evolutionär und nicht revolutionär, was bedeutet, dass er bestehende Bedrohungen wie Ransomware verbessert, aber die Risikolandschaft in naher Zukunft nicht verändern wird."
Dies könnte zu einem Anstieg von Cyberangriffen, insbesondere von Ransomware, durch weniger erfahrene Personen oder Gruppen führen. Allerdings sind hochkompetente staatliche Bedrohungsakteure nach wie vor am besten in der Lage, KI für die Entwicklung fortschrittlicher Malware zu nutzen.
Wir haben bereits das Potenzial von auf Betrug ausgerichteten generativen KI-Tools gesehen wie FraudGPT und WormGPT.
Wie der NCSC haben auch frühere Berichte in ähnlicher Weise die Demokratisierung und Skalierung von Cyberangriffen durch KI hervorgehoben, darunter OpenAI, der kürzlich angekündigt seine Pläne zur Bekämpfung von Fehlinformationen und Fälschungen bei Wahlen.
OpenAI ist jetzt in Zusammenarbeit mit dem US-Verteidigungsministerium um u.a. die Cyberabwehr zu unterstützen und zu innovieren, und kündigte eine $1 Million Zuschuss für Lösungen im letzten Jahr.
