In einer von Hyuk Kim vom James Martin Center for Nonproliferation Studies veröffentlichten Analyse wird deutlich, dass Nordkorea verstärkt in die Bereiche KI und ML einsteigt.
Der Bericht untersuchte sowohl die zivilen als auch die militärischen Anwendungen des Landes und gewährte einen seltenen Einblick in die technologischen Strategien des geheimnisvollen Staates.
In den 1990er Jahren galt Nordkorea als Vorreiter in Sachen KI, da seine Eunbyul-System wurde 1997 vom Korea Computer Center entwickelt und gewann bis 2010 internationale Go-Wettbewerbe. Bereits 1998 konnte es einen Sieg in Go erringen, und von 2003 bis 2006 stand es an der Spitze der Computer-Go-Weltmeisterschaft.
Eunbyul verwendete viele der gleichen Monte-Carlo-Techniken wie das wesentlich berühmtere AlphaGo-System von Google, das 2016 Schlagzeilen machte, als es den Champion Lee Sedol besiegte. Im Jahr 2010 verfügte Eunbyul über 16 CPUs, während AlphaGo im Jahr 2016 über 1.920 verfügte.
Dies geschah zu einer Zeit, als die Beziehungen zwischen Nord- und Südkorea, Japan und anderen Ländern, die traditionell Go spielen, auf einem Höhepunkt waren.
Als Nordkorea immer weiter in die Bedeutungslosigkeit abrutschte und die Spannungen mit dem Westen zunahmen, weil das kommunistische Land mit seinen eigenen Dämonen der Armut und des Elends kämpfte, schrumpfte seine KI-Industrie unweigerlich.
In einer Studie des Korea Development Bank Future Strategy Institute aus dem Jahr 2017 heißt es: "Um sich die neuesten KI-Technologien zu sichern, muss der Norden massiv in Hard- und Software investieren", und: "Das klamme Nordkorea wird bei der Entwicklung dieser Technologien voraussichtlich auf eine Mauer stoßen."
Allerdings ist diese neue Analyse von Hyuk Kim stellte fest, dass Nordkorea in den letzten Jahren Wege gefunden hat, mit den Fortschritten der KI/ML Schritt zu halten.
Kim merkt an, dass "Versuche, Hardware für die KI-Entwicklung zu beschaffen, zwar behindert werden, dass aber Informationen aus offenen Quellen, einschließlich wissenschaftlicher Zeitschriftenartikel und staatlicher Medien, darauf hindeuten, dass Nordkorea aktiv KI/ML-Technologie in verschiedenen Bereichen entwickelt und fördert".
Der Bericht geht der Frage nach, wie die nordkoreanische Regierung, die Wissenschaft und die Industrie bei der Entwicklung von KI-Technologien zusammenarbeiten.
In einer Verfassungsänderung im Jahr 2019 fügte Nordkorea den Begriff "Informatisierung" zu seinen grundlegenden Wirtschaftsstrategien hinzu und verdeutlichte damit das Engagement des Landes für die Integration von KI in sein Wirtschaftskonzept.
Die Gründung des Forschungsinstituts für künstliche Intelligenz im Jahr 2013, das später im Ministerium für Informationsindustrie aufging, war ebenfalls ein entscheidender Schritt zur Intensivierung der KI-Forschung.
Akademische und kommerzielle Fronten der KI-Förderung
Nordkoreas Bildungseinrichtungen, wie die Kim-Il-Sung-Universität, sind führend in der KI-Forschung des Landes.
Das 2014 gegründete High-Tech-Entwicklungszentrum der Universität und nachfolgende KI-Programme an anderen Universitäten im ganzen Land zeigen, dass die KI-Technologie wieder stärker in den Mittelpunkt rückt.
Auf kommerzieller Ebene haben nordkoreanische Unternehmen wie die Mangyongdae Information Technology Corporation KI-integrierte Mobiltelefone auf den Markt gebracht, und die Yalu River Technology Development Company hat KI in Sicherheitssystemen eingesetzt.
In Kims Bericht heißt es: "Im Jahr 2020 wird die Mangyongdae Information Technology Corporation (만경대 정보대기술사) gestartet zwei Mobiltelefone, das Azalea 6 und 7 (Jindallae 6, 7, 진달래 6, 7). Das Unternehmen behauptet, erfolgreich Technologien zur Fingerabdruck-, Sprach-, Gesichts- und Texterkennung auf der Grundlage von tiefen neuronalen Netzen (DNN) in dieses Gerät integriert zu haben."
Nordkorea fördert nun aktiv die technische Zusammenarbeit im eigenen Land und will, wie es heißt, "die gemeinsame Forschung und Entwicklung mit renommierten IT-Unternehmen aus über 20 Ländern aktiv fördern".
Zu den wichtigsten, aber immer noch schwachen Verbündeten des Landes gehören Russland und China, aber auch Pakistan, Bulgarien, Benin, Malaysia und Madagaskar.
Außerdem haben sie angeblich verkaufte Waffen an Länder des Nahen Ostens. Diese Beziehungen bieten einen gewissen Spielraum für die nordkoreanische KI-Entwicklung, obwohl die Beschaffung von High-End-KI-Hardware von führenden Unternehmen wie Nvidia stark eingeschränkt ist.
Duale Anwendungen: zivil und militärisch
Ein weiterer Aspekt von Kims Studie ist das Dual-Use-Potenzial der KI in Nordkorea, das auch im Westen häufig diskutiert wird.
Das Konzept besteht darin, dass die gleichen leistungsstarken KI-Modelle, die für weitgehend "gute" Zwecke eingesetzt werden, auch negative Auswirkungen haben können.
Der doppelte Verwendungszweck von KI macht die Regulierung und das Verbot von Natur aus komplex.
An der gesellschaftlichen Front in Nordkorea wird KI eingesetzt, um die nukleare Sicherheit zu verbessern, heißt es in dem Bericht. Ein bemerkenswertes Beispiel ist die Arbeit der nordkoreanischen Atomwissenschaftler Ho Il Mun und So Chol, die veröffentlichte eine Studie zur Optimierung der Sicherheit von Kernreaktoren mit Hilfe von genetischen Algorithmen, einer Technik des maschinellen Lernens.
Interessanterweise beinhaltet diese Technik die Nachahmung von Genfunktionen wie Mutation und Crossover. Die Studie wurde in einer führenden Fachzeitschrift veröffentlicht, Annalen der Kernenergie.
Gleichzeitig werden in Kims Bericht die potenziellen militärischen Anwendungen von KI-Technologien untersucht.
Auch wenn keine genauen Angaben zur militärischen Nutzung gemacht werden, wächst die Besorgnis, dass KI die Bedrohungsakteure aus Nordkorea, China und Russland verstärken wird.
Nordkoreanische Hacker verfügen bereits über ein großes Repertoire an erfolgreichen Cyberangriffen, die durch KI noch verstärkt werden könnten.
Im Februar 2021 erörterten verschiedene US-Behörden und der südkoreanische Geheimdienst in einem gemeinsamen Cybersecurity Advisory die Zunahme von Ransomware-Angriffen, die insbesondere auf das Gesundheitswesen und die öffentliche Gesundheit abzielen.
Die Bedrohung eskalierte mit der Maui-Ransomware Angriffe im Juli 2022. Laut einer gemeinsamen Empfehlung des FBI, des CISA und des Finanzministeriums verwenden nordkoreanische staatlich gesponserte Akteure seit mindestens Mai 2021 diese spezielle Ransomware, um erneut den Gesundheitssektor anzugreifen.
Im April 2022 gab es eine weitere Entwicklung bei den Cyberoperationen Nordkoreas. In einem gemeinsamen Gutachten wurde auf die Angriffe auf Blockchain-Unternehmen durch eine vom nordkoreanischen Staat gesponserte fortschrittliche Bedrohungsgruppe hingewiesen, die als Lazarus Group, APT38, BlueNoroff und Stardust Chollima bekannt ist.
Diese Serie von Angriffen gipfelte in einem Bundesgerichtsverfahren in den USA, in dem drei nordkoreanische Computerprogrammierer wegen einer groß angelegten kriminellen Verschwörung angeklagt wurden. Diese Anklageschrift ergänzte einen Fall aus dem Jahr 2018, bei dem es um Angriffe auf Sony Pictures und die Ransomware WannaCry ging.
In dem Fall wurde behauptet, dass diese Programmierer Teil einer konzertierten Aktion waren, um über $1,3 Milliarden durch Cyberangriffe auf Banken und Unternehmen zu stehlen, bösartige Kryptowährungsanwendungen zu erstellen und einzusetzen und eine betrügerische Blockchain-Plattform zu entwickeln.
In den letzten Jahren wurde Nordkorea in Cyber-Risikoanalysen immer wieder erwähnt. In der jüngsten Cybersecurity-Prognose von Google Cloud wurde die zunehmende Bedrohung durch KI in der Cyberkriminalität hervorgehoben, wobei ein besonderer Schwerpunkt auf den Cyberfähigkeiten Nordkoreas lag.
Der Bericht wies darauf hin, dass Phishing-E-Mails und SMS-Nachrichten dank großer Sprachmodelle (LLMs) immer raffinierter werden, was darauf hindeutet, dass Akteure wie Nordkorea generative KI nutzen könnten, um effektivere Cyberangriffe durchzuführen.
In einem parallelen Bericht beleuchtete das Microsoft Threat Analysis Center (MTAC) auch KI- und Technologiebedrohungen aus Ostasien, einschließlich China und Nordkorea.
Microsofts Bericht stellt festZusätzlich zu dem, was wir von China beobachtet haben, ist Nordkorea eine fähige Cyber-Bedrohung, die sich auf das Sammeln von Geheimdienstinformationen und den Diebstahl von Kryptowährungen konzentriert, die zur Generierung von Einnahmen für den Staat benötigt werden.
Nordkorea hat freien Zugang zu Open-Source-Modellen wie LLaMA 2, das dem weltweit führenden LLM, GPT-4, nahezu ebenbürtig ist.
Trotz internationaler Sanktionen scheint es offensichtlich, dass Nordkorea Fortschritte im Bereich der KI macht, einer Technologie, die sowohl gesellschaftlich als auch militärisch genutzt werden kann - genau wie im Westen.
