Volgens een analyse van Hyuk Kim van het James Martin Center for Nonproliferation Studies is Noord-Korea zich steeds meer aan het verdiepen in AI en ML.
Het rapport onderzocht zowel de civiele als militaire toepassingen van de natie en bood een zeldzame blik op de technologische strategieën van de geheime staat.
In de jaren negentig werd Noord-Korea beschouwd als een koploper op het gebied van AI, met zijn Eunbyul systeem ontwikkeld door het Korea Computer Center in 1997 en won internationale "Go"-competities tot 2010. Het won Go al in 1998 en stond van 2003 tot 2006 aan de leiding van het wereldkampioenschap computer Go.
Eunbyul gebruikte in feite veel van dezelfde Monte Carlo-technieken als Google's aanzienlijk bekendere AlphaGo-systeem, dat de krantenkoppen haalde toen het kampioen Lee Sedol versloeg in 2016. In 2010 had Eunbyul 16 CPU's, terwijl AlphaGo er in 2016 1.920 had.
Dit was op een moment dat de betrekkingen tussen Noord- en Zuid-Korea, Japan en andere landen die traditioneel Go speelden op een hoogtepunt waren.
Naarmate Noord-Korea verder afgleed naar de vergetelheid en de spanningen met het Westen toenamen omdat de communistische natie vocht tegen haar eigen demonen van armoede en ellende, nam de AI-industrie onvermijdelijk af.
In een studie van het Korea Development Bank Future Strategy Institute uit 2017 staat: "Om de nieuwste AI-technologieën veilig te stellen, moet het Noorden een enorme investering doen in hardware en software" en "Noord-Korea, dat krap bij kas zit, zal naar verwachting tegen een muur oplopen bij de ontwikkeling van deze technologieën".
Echter, dit nieuwe analyse door Hyuk Kim ontdekte dat Noord-Korea de afgelopen jaren manieren heeft gevonden om de vooruitgang op het gebied van AI/ML bij te houden.
Kim merkt op dat "pogingen om hardware voor AI-ontwikkeling aan te schaffen misschien worden gedwarsboomd, maar dat uit open bronnen, waaronder artikelen in wetenschappelijke tijdschriften en in staatsmedia, blijkt dat Noord-Korea actief bezig is met het ontwikkelen en promoten van AI/ML-technologie in verschillende sectoren".
Het rapport onderzoekt hoe de Noord-Koreaanse overheid, academische wereld en industrie samenwerken om AI-technologieën te ontwikkelen.
In een grondwetswijziging in 2019 voegde Noord-Korea "informatisering" toe aan zijn economische kernstrategieën, wat de toewijding van het land illustreert om AI te integreren in zijn economische blauwdruk.
De oprichting van het Artificial Intelligence Research Institute in 2013, dat later opging in het ministerie van Informatie Industrie, betekende ook een beslissende stap om de O&O op het gebied van AI te intensiveren.
Academische en commerciële fronten in AI-ontwikkeling
Noord-Koreaanse onderwijsinstellingen, zoals de Kim Il Sung Universiteit, leiden het AI-onderzoek van het land.
Het High-Technology Development Center van de universiteit, opgericht in 2014, en de daaropvolgende AI-gerichte programma's aan andere universiteiten in het hele land illustreren een verjongde focus op AI-technologie.
Op commercieel gebied hebben Noord-Koreaanse bedrijven zoals de Mangyongdae Information Technology Corporation AI-geïntegreerde mobiele telefoons gelanceerd en de Yalu River Technology Development Company heeft AI toegepast in beveiligingssystemen.
Het rapport van Kim beschrijft: "In 2020 zal de Mangyongdae Information Technology Corporation (만경대 정보대기술사) gelanceerd twee mobiele telefoons, de Azalea 6 en 7 (Jindallae 6, 7, 진달래 6, 7). Het bedrijf beweert met succes technologieën voor vingerafdruk-, stem-, gezichts- en tekstherkenning, gebaseerd op diepe neurale netwerken (DNN), in dit apparaat te hebben ingebouwd."
Noord-Korea stimuleert nu actief binnenlandse technische samenwerking en wil, zoals gezegd, "onderzoek en ontwikkeling in samenwerkingsverband met gerenommeerde IT-bedrijven uit meer dan 20 landen actief bevorderen".
Tot de belangrijkste maar nog steeds onzekere bondgenoten van het land behoren Rusland en China, maar ze delen ook betrekkingen met Pakistan, Bulgarije, Benin, Maleisië en Madagaskar.
Ze hebben naar verluidt ook verkochte wapens aan landen in het Midden-Oosten. Deze relaties bieden enige ruimte voor de ontwikkeling van Noord-Koreaanse AI, hoewel de aankoop van hoogwaardige AI-hardware door de natie bij leiders als Nvidia zeer beperkt is.
Dubbele toepassingen: civiel en militair
Een ander aspect van Kim's studie is het potentieel van AI voor tweeërlei gebruik in Noord-Korea, iets dat in het Westen ook vaak ter discussie staat.
Het concept hier is dat dezelfde krachtige AI-modellen die worden gebruikt voor over het algemeen "goede" doelen ook in staat zijn om negatieve gevolgen te hebben.
Het feit dat AI voor tweeërlei gebruik is, maakt regulering en verbod inherent complex.
Op het maatschappelijke front in Noord-Korea wordt AI gebruikt om de nucleaire veiligheid te verbeteren, aldus het rapport. Een opmerkelijk voorbeeld is het werk van de Noord-Koreaanse nucleaire wetenschappers Ho Il Mun en So Chol, die een onderzoek gepubliceerd over het optimaliseren van de veiligheid van kernreactoren met behulp van genetische algoritmen, een machine-learningtechniek.
Interessant genoeg gaat het bij deze techniek om het nabootsen van genfuncties zoals mutatie en cross-over. Het is gepubliceerd in een toonaangevend tijdschrift, Annalen van kernenergie.
Tegelijkertijd worden de potentiële militaire toepassingen van AI-technologieën onderzocht in het rapport van Kim.
Hoewel er niet uitgebreid wordt ingegaan op specifieke militaire toepassingen, neemt de bezorgdheid toe dat AI dreigende actoren uit Noord-Korea, China en Rusland zal versterken.
Noord-Koreaanse hackers hebben al een groot repertoire aan succesvolle cyberaanvallen uitgevoerd, die door AI zouden kunnen worden uitgebreid.
In februari 2021 werd in een gezamenlijk Cybersecurity Advisory van verschillende Amerikaanse agentschappen en Zuid-Koreaanse inlichtingendiensten de toename van ransomware-aanvallen besproken, met name gericht op de gezondheidszorg en de publieke sector.
De dreiging escaleerde met de Maui ransomware aanvallen in juli 2022. Volgens een gezamenlijk advies van de FBI, CISA en het ministerie van Financiën gebruiken Noord-Koreaanse door de staat gesponsorde actoren deze specifieke ransomware sinds ten minste mei 2021 om zich opnieuw te richten op de gezondheidszorgsector.
In april 2022 was er weer een ontwikkeling in de cyberoperaties van Noord-Korea. Een gezamenlijk advies benadrukte het doelwit van blockchainbedrijven door een door de Noord-Koreaanse staat gesponsorde geavanceerde bedreigingsgroep die bekend staat als de Lazarus Group, APT38, BlueNoroff en Stardust Chollima.
Deze reeks aanvallen culmineerde in een federale rechtszaak in de VS, waarin drie Noord-Koreaanse computerprogrammeurs werden beschuldigd van een grootschalige criminele samenzwering. Deze aanklacht borduurde voort op een zaak uit 2018 waarin aanvallen op Sony Pictures en WannaCry ransomware werden beschreven.
In de zaak werd beweerd dat deze programmeurs deel uitmaakten van een gezamenlijke inspanning om meer dan $1,3 miljard te stelen via cyberaanvallen op banken en bedrijven, schadelijke cryptocurrency-applicaties te maken en te implementeren en een frauduleus blockchain-platform te ontwikkelen.
De afgelopen jaren is Noord-Korea veelvuldig voorgekomen in cyberrisicoanalyses. De recente cyberbeveiligingsprognose van Google Cloud benadrukte de toenemende dreiging van AI in cybercriminaliteit, met speciale nadruk op de cybercapaciteiten van Noord-Korea.
Het verslag wees op de toegenomen geavanceerdheid van phishing-e-mails en sms-berichten dankzij grote taalmodellen (LLM's), wat erop wijst dat actoren zoals Noord-Korea generatieve AI zouden kunnen gebruiken om effectievere cyberaanvallen uit te voeren.
In een parallel rapport belichtte Microsofts Threat Analysis Center (MTAC) ook AI- en technologiedreigingen uit Oost-Azië, waaronder China en Noord-Korea.
Microsoft in het verslag staat"In aanvulling op wat we hebben gezien van China, is Noord-Korea een capabele cyberdreiging, gericht op het verzamelen van inlichtingen en het stelen van cryptocurrency die nodig is om inkomsten te genereren voor de staat."
Noord-Korea kan vrijelijk toegang krijgen tot open-source modellen zoals LLaMA 2, dat bijna op gelijke hoogte staat met de toonaangevende LLM, GPT-4.
Ondanks internationale sancties lijkt het duidelijk dat Noord-Korea vooruitgang boekt op het gebied van AI, een technologie met een dubbel potentieel voor zowel sociaal als militair gebruik - hetzelfde als in het Westen.
