Microsoft hat vor neuen technologischen Bedrohungen aus China und Nordkorea gewarnt, die KI nutzen, um bösartige Operationen gegen die USA durchzuführen.
Der Bericht des Microsoft Threat Analysis Center (MTAC) befasst sich mit der Bewaffnung von KI, um sozialen Unfrieden zu stiften und die nationale Sicherheit zu gefährden.
"Im vergangenen Jahr hat China eine neue Fähigkeit zur automatischen Generierung von Bildern entwickelt, die es für Beeinflussungsoperationen nutzen kann, um US-Wähler quer durch das politische Spektrum zu imitieren und Kontroversen entlang rassischer, wirtschaftlicher und ideologischer Linien zu schüren", so Microsoft. erklärte in seinem Bericht.
Das Unternehmen erläuterte die Technologie hinter diesen Operationen: "Diese neue Fähigkeit wird durch künstliche Intelligenz angetrieben, die versucht, qualitativ hochwertige Inhalte zu erstellen, die sich in den sozialen Netzwerken in den USA und anderen Demokratien verbreiten könnten."
Weiter heißt es: "Diese Bilder werden höchstwahrscheinlich von so genannten diffusionsgesteuerten Bildgeneratoren erstellt, die mithilfe von KI nicht nur überzeugende Bilder erstellen, sondern auch lernen, sie im Laufe der Zeit zu verbessern."
Wir haben bereits zahlreiche Anzeichen dafür gesehen, dass dies im Inland geschieht, einschließlich viraler Betrügereien verbunden mit Elon Musk, gefälschte Bilder von Explosionen im Pentagonund ein mysteriöses, von einer KI generiertes Interview, in dem angeblich ein tiefe gefälschte Version von Donald Trumps Stimme bevor die Beobachter eine Kehrtwende machten und sagten, es sei echt.
Letzteres ist ein Beispiel dafür, wie tiefgreifende Fälschungen auch zu einer "Lügendividende" führen, bei der Politiker und Persönlichkeiten des öffentlichen Lebens etwas, das ihren Ruf schädigt, als "Fälschung" abtun können, obwohl es echt ist, was die vielschichtigen Risiken einer Vermischung von Realität und Fälschungen deutlich macht.
Schwerpunkt und Ziele der Kampagne
Laut Microsoft nutzen chinesische Akteure, die mit dem Staat verbunden sind, KI, um politisch spaltende Themen in den USA, wie etwa Waffengewalt, ins Visier zu nehmen.
Das war heute, Google hat festgelegt dass KI-generierte politische Anzeigen deutlich darauf hinweisen müssen, wenn sie "synthetische Inhalte enthalten, die echte oder realistisch aussehende Personen oder Ereignisse unauthentisch darstellen".
"Diese Technologie erzeugt aufmerksamkeitsstärkere Inhalte als die unbeholfenen digitalen Zeichnungen und Fotocollagen, die in früheren Kampagnen verwendet wurden", heißt es in dem Microsoft-Bericht, und die Technologie wird sich weiter verbessern.
Microsoft wies auch auf die Bedrohung durch Nordkorea hin und erklärte: "Zusätzlich zu dem, was wir von China beobachtet haben, ist Nordkorea eine fähige Cyber-Bedrohung, die sich auf das Sammeln von Informationen und den Diebstahl von Kryptowährungen konzentriert, die zur Erzielung von Einnahmen für den Staat benötigt werden."
Laufende Bewertung der Bedrohung
Der neue Bericht des MTAC ist Teil einer fortlaufenden Serie zur Bewertung der digitalen Bedrohungen aus Ostasien.
Sie beschreibt bestimmte Sektoren und Regionen mit erhöhtem Risiko und unterstreicht die Notwendigkeit kollektiver Maßnahmen zur Steuerung der internationalen KI-Industrie, die sich in den letzten Wochen stark entwickelt hat.
Unterdessen versucht die US-Regierung weiterhin, Chinas Beschaffung von High-End-Chips die für das Training von KI entwickelt und hauptsächlich von Nvidia erworben wurden.
China plant den Aufbau einer eigenen einheimischen Chipindustrie, um die Abhängigkeit von ausländischer KI-Hardware zu verringern.
Microsoft schlägt angesichts der eskalierenden geopolitischen Spannungen zwischen China und den USA Alarm, und die KI steht im Mittelpunkt des Geschehens.
