Microsoft hat über den Missbrauch seiner KI-Technologien durch staatlich geförderte Hacker aus Russland, China und dem Iran berichtet.
Microsoft hat mit OpenAI zusammengearbeitet, um die Aktivitäten von Gruppen zu beobachten, die mit dem russischen Militärgeheimdienst, den iranischen Revolutionsgarden und den Regierungen Chinas und Nordkoreas in Verbindung stehen. Dabei wurden fortschrittliche KI-Tools eingesetzt, um ihre Hacking-Strategien zu verfeinern und überzeugende Täuschungsbotschaften zu erstellen.
Als Teil der Die Forschung von Microsoft und OpenAISie unterbrachen die Aktivitäten von fünf staatlich unterstützten bösartigen Gruppen, indem sie deren Zugang zu den Diensten von OpenAI beendeten.
Dazu gehören zwei mit China verbundene Akteure, Charcoal Typhoon und Salmon Typhoon, Crimson Sandstorm aus dem Iran, Emerald Sleet, der mit Nordkorea verbunden ist, und Forest Blizzard, der mit Russland in Verbindung gebracht wird.
Diese Gruppen nutzten die Dienste von OpenAI für Aufgaben wie die Abfrage von Open-Source-Informationen, die Übersetzung, die Identifizierung von Codierungsfehlern und die Durchführung grundlegender Codierungsaufgaben. Im Einzelnen:
- Charcoal Typhoon nutzte die Dienste von OpenAI, um Unternehmen und Cybersicherheits-Tools zu recherchieren, Code zu debuggen, Skripte zu erstellen und Phishing-Inhalte zu kreieren.
- Salmon Typhoon nutzte die Dienste von OpenAI für die Übersetzung technischer Dokumente, das Sammeln von Informationen über verschiedene Agenturen, die Unterstützung bei der Codierung und die Erforschung von Stealth-Techniken.
- Crimson Sandstorm beauftragte OpenAI mit der Unterstützung von Skripten bei der App- und Webentwicklung, der Erstellung von Spear-Phishing-Inhalten und der Erforschung von Umgehungsmethoden.
- Emerald Sleet nutzte die Dienste von OpenAI, um Verteidigungsexperten und Organisationen zu identifizieren, Schwachstellen zu erkennen, bei grundlegenden Skripten zu helfen und Phishing-Material vorzubereiten.
- Forest Blizzard nutzte die Dienste von OpenAI hauptsächlich für die Open-Source-Forschung im Bereich der Satelliten- und Radartechnologien und für die Unterstützung bei der Skripterstellung.
Die Tatsache, dass internationale Bedrohungsakteure die Technologie von OpenAI nutzen, verdeutlicht die Problematik der doppelten Verwendbarkeit von KI.
Die Bedrohungsakteure entscheiden sich bewusst für die Modelle von OpenAI, anstatt ihre eigenen zu entwickeln. Das ist billiger, schneller und effektiver. Souveräne Open-Source-Tools sind jedoch wahrscheinlich in der Pipeline.
Tom Burt, Microsofts Vizepräsident für Kundensicherheit, sagte zu den Ergebnissen: "Unabhängig davon, ob es einen Verstoß gegen das Gesetz oder die Nutzungsbedingungen gibt, wollen wir einfach nicht, dass die Akteure, die wir identifiziert haben - die wir verfolgen und von denen wir wissen, dass es sich um Bedrohungsakteure verschiedener Art handelt - Zugang zu dieser Technologie haben."
Microsoft verbietet jede KI-Anwendung oder Arbeitslast, die auf Azure für diese staatlich unterstützten Gruppen gehostet wird. Die Biden-Administration forderte kürzlich, dass Technologieunternehmen bestimmte ausländische Nutzer der Cloud-Technologie zu melden.
China reagierte über den Sprecher der US-Botschaft, Liu Pengyu, der die Anschuldigungen als unbegründet bezeichnete und sich für einen verantwortungsvollen Einsatz von KI-Technologien zum Nutzen der Menschheit aussprach.
China arbeitet seit Jahren mit der USA über KI-Sicherheit hinter verschlossenen Türenaber vielleicht eher aus purer Notwendigkeit als aus Wunsch oder Verlangen.
Dies ist der jüngste in einer Reihe von Berichten, die Microsoft in den letzten Monaten zum Thema Cyberkriminalität veröffentlicht hat, darunter ein Bericht vom letzten Jahr, in dem es um KI-generierte Propaganda ging, die von China und Nordkorea.
Es muss jedoch gesagt werden, dass KI-Bedrohungen überall vorkommen. In den USA, dem Vereinigten Königreich und anderen westlichen und europäischen Ländern nimmt der Deep Fake-Betrug stark zu, ebenso wie im Osten.
Microsoft verfolgt derzeit mehr als 300 einzelne Bedrohungsakteure, darunter nationalstaatliche Akteure und Ransomware-Gruppen, die KI nutzen, um ihre Abwehr zu verbessern und bösartige Aktivitäten zu unterbrechen.
KI-Cyber-Bedrohungen sind auf dem Vormarsch, und Tatsache ist, dass sie international sind und sich nur schwer eindämmen lassen.
