Google Cloud hat seine Prognose für Cybersicherheit und Cyberkriminalität für 2024 veröffentlicht, und die Bedrohung durch KI steht ganz oben auf der Liste.
Betrüger nutzen Phishing-E-Mails und SMS-Nachrichten schon seit langem, aber der Bericht besagt, dass große Sprachmodelle (LLM) es schwieriger machen werden, diese zu erkennen.
Zuvor hatte Sie vielleicht die schlechte Grammatik und Rechtschreibung des "nigerianischen Prinzen" in seiner E-Mail über eine großartige finanzielle Chance, die er Ihnen mitteilen wollte, stutzig gemacht.
Ein Betrüger kann sein Angebot nun leicht durch ein LLM laufen lassen, um es zu übersetzen und zu polieren, bevor es in Ihrem Posteingang landet. Die Prognose geht auch davon aus, dass Betrüger legitime Inhalte verwenden werden, um ein LLM zu veranlassen und dann modifizierte Versionen zu erstellen, die wie das Original aussehen und sich anfühlen.
Es wird erwartet, dass generative KI es Betrügern ermöglichen wird, von traditionellen E-Mail- und SMS-Taktiken zu KI-generierten Sprach- und Videobetrügereien überzugehen.
LLMs und Gen AI werden es ermöglichen Betrüger um ihre Arbeit in großem Umfang zu erledigen und auch ihre Nachrichten für personalisierte Angriffe viel individueller zu gestalten.
In der Prognose wird auch darauf hingewiesen, dass das Vertrauen der Gesellschaft in alle Nachrichten- und Informationsquellen schwinden wird, wenn Angreifer Fake News nutzen, um Menschen zu betrügen.
Wie wird die Cybersicherheit im Jahr 2024 aussehen?
Holen Sie sich Ihr Exemplar des Berichts Google Cloud Cybersecurity Forecast 2024, um Einblicke in die Taktiken und Operationen von Angreifern im kommenden Jahr zu erhalten → https://t.co/APJfNoEQNC pic.twitter.com/1Kpr04nsUR
- Google Cloud (@googlecloud) 8. November 2023
KI-Cyberkriminalität als Dienstleistung
Anfang des Jahres schrieben wir über FraudGPTein Chatbot, der angeblich speziell für Hacker und Betrüger entwickelt wurde. Es herrschte eine gewisse Skepsis darüber, wie nützlich es für Kriminelle sein würde, aber Google geht davon aus, dass wir in Zukunft mehr solcher Tools sehen werden.
Die Prognose erklärte, dass es wahrscheinlich ist, dass KI-Tools für Cyberkriminalität als Dienstleistung angeboten werden. In dem Bericht heißt es: "Sie werden in Untergrundforen als kostenpflichtige Dienstleistung angeboten und für verschiedene Zwecke wie Phishing-Kampagnen und die Verbreitung von Desinformationen eingesetzt."
Cyberkriminalität zielt in der Regel auf Einzelpersonen oder Unternehmen ab, aber die Prognose sieht andere Ziele als finanziellen Gewinn am Horizont.
Mit Blick auf die US-Präsidentschaftswahlen im nächsten Jahr heißt es in dem Bericht: "Wir werden sehen, dass Nationalstaaten und andere Bedrohungsakteure eine Vielzahl von Cyber-Aktivitäten durchführen werden, darunter Spionage- und Beeinflussungsoperationen, die auf die Wahlsysteme abzielen, die Nachahmung von Kandidaten in sozialen Medien und Informationsoperationen, die auf die Wähler selbst abzielen."
Die großen Vier
In der Google-Prognose werden China, Russland, Nordkorea und der Iran als die größten Cyber-Bedrohungen für den Rest der Welt genannt.
Neben der Spionage werden China und Russland auch weiterhin afrikanische Länder mit Desinformationen ins Visier nehmen, insbesondere Länder mit Vorkommen seltener Erden, die für viele High-Tech-Produkte unerlässlich sind.
Die Vorhersage wies auf die Olympischen Spiele 2024 in Paris als ein spezifisches Ziel hin, das Kriminelle und antieuropäische Akteure ins Visier nehmen würden. Dies scheint bereits der Fall zu sein, da ein Deepfake von Tom Cruise gezeigt wurde, der das IOC kritisiert.
In einer angeblichen Netflix-Werbung scheint Tom Cruise zu sagen, dass korrupte Beamte "langsam und schmerzhaft die olympischen Sportarten zerstören, die es seit Tausenden von Jahren gibt".
Ein KI-"Tom Cruise" reiht sich in die Flut der Fake News zu den Olympischen Spielen ein.https://t.co/YV2Hkp1Hdp
- POLITICOEuropa (@POLITICOEuropa) 10. November 2023
Da russische Sportler nicht unter der Flagge ihres Landes an Wettkämpfen teilnehmen dürfen, kann man davon ausgehen, dass Kreml-nahe Akteure die Quelle dieser Fälschung sind.
Die Vorhersage von Google liest sich düster, und es scheint, als ob die vollständige Vermeidung von KI-gestützter Cyberkriminalität eine Mission Impossible sein könnte.
