I en analyse udgivet af Hyuk Kim fra James Martin Center for Nonproliferation Studies fremgår det, at Nordkorea intensiverer sin satsning på AI og ML.
Rapporten undersøgte både landets civile og militære applikationer og gav et sjældent indblik i den hemmelighedsfulde stats teknologiske strategier.
I 1990'erne blev Nordkorea betragtet som en AI-frontløber med sin Eunbyul-systemet udviklet af Korea Computer Center i 1997 og vandt internationale "Go"-konkurrencer indtil 2010. Det sikrede sig en sejr i Go allerede i 1998 og toppede verdensmesterskabet i Go for computere fra 2003 til 2006.
Eunbyul brugte faktisk mange af de samme Monte Carlo-teknikker som Googles betydeligt mere berømte AlphaGo-system, der skabte teknologiske overskrifter, da det slog mesteren Lee Sedol i 2016. I 2010 havde Eunbyul 16 CPU'er, mens AlphaGo havde 1.920 i 2016.
Det var på et tidspunkt, hvor forholdet mellem Nord- og Sydkorea, Japan og andre traditionelt go-spillende nationer var på et højdepunkt.
Efterhånden som Nordkorea gled længere ud i mørket, og spændingerne med Vesten steg, mens den kommunistiske nation kæmpede med sine egne dæmoner af fattigdom og elendighed, svandt landets AI-industri uundgåeligt ind.
I en undersøgelse fra Korea Development Bank Future Strategy Institute i 2017 stod der: "For at sikre de nyeste AI-teknologier skal Nordkorea foretage en massiv investering i hardware og software", og "Det pengestærke Nordkorea forventes at løbe panden mod en mur i udviklingen af teknologierne".
Men dette ny analyse af Hyuk Kim fandt ud af, at Nordkorea har fundet måder at holde trit med AI/ML-udviklingen på i de seneste år.
Kim bemærker, at selv om "forsøg på at skaffe hardware til AI-udvikling kan blive forhindret, tyder open source-information, herunder artikler i videnskabelige tidsskrifter og statslige medier, på, at Nordkorea aktivt udvikler og fremmer AI/ML-teknologi på tværs af forskellige sektorer."
Rapporten undersøger, hvordan Nordkoreas regering, den akademiske verden og industrien samarbejder om at udvikle AI-teknologier.
I en forfatningsændring i 2019 tilføjede Nordkorea "informatisering" til sine økonomiske kernestrategier, hvilket illustrerer landets forpligtelse til at integrere AI i sin økonomiske plan.
Oprettelsen af forskningsinstituttet for kunstig intelligens i 2013, som senere blev fusioneret med ministeriet for informationsindustri, markerede også et afgørende skridt i retning af at intensivere forskning og udvikling inden for kunstig intelligens.
Akademiske og kommercielle fronter i AI-udviklingen
Nordkoreas uddannelsesinstitutioner, som Kim Il Sung-universitetet, leder landets AI-forskning.
Universitetets High-Technology Development Center, der blev etableret i 2014, og efterfølgende AI-fokuserede programmer på andre universiteter i hele landet illustrerer et fornyet fokus på AI-teknologi.
Kommercielt har nordkoreanske virksomheder som Mangyongdae Information Technology Corporation lanceret AI-integrerede mobiltelefoner, og Yalu River Technology Development Company har implementeret AI i sikkerhedssystemer.
Kims rapport beskriver: "I 2020 vil Mangyongdae Information Technology Corporation (만경대 정보대기술사) lanceret to mobiltelefoner, Azalea 6 og 7 (Jindallae 6, 7, 진달래 6, 7). Virksomheden hævder at have indarbejdet teknologier til fingeraftryk, stemme-, ansigts- og tekstgenkendelse baseret på dybe neurale netværk (DNN) i denne enhed."
Nordkorea fremmer nu aktivt indenlandsk teknisk samarbejde og har som nævnt til formål at "aktivt fremme forsknings- og udviklingssamarbejde med anerkendte it-virksomheder fra over 20 lande."
Blandt landets vigtigste, men stadig spinkle allierede er Rusland og Kina, men de deler også forbindelser med Pakistan, Bulgarien, Benin, Malaysia og Madagaskar.
De har angiveligt også solgte våben til lande i Mellemøsten. Disse relationer giver et vist spillerum for nordkoreansk AI-udvikling, selv om landets indkøb af avanceret AI-hardware fra ledere som Nvidia er stærkt begrænset.
Dobbelt anvendelse: civil og militær
Et andet aspekt af Kims undersøgelse er AI's dual-use-potentiale i Nordkorea, noget der også ofte debatteres i Vesten.
Konceptet her er, at de samme kraftfulde AI-modeller, der bruges til stort set "gode" formål, også er i stand til at have negative konsekvenser.
AI's dobbelte anvendelse gør i sagens natur regulering og forbud komplekse.
På den samfundsmæssige front i Nordkorea bliver AI brugt til at forbedre den nukleare sikkerhed, siger rapporten. Et bemærkelsesværdigt eksempel er de nordkoreanske atomforskere Ho Il Mun og So Chols arbejde, som offentliggjorde en undersøgelse om optimering af sikkerheden i atomreaktorer ved hjælp af genetiske algoritmer, en maskinlæringsteknik.
Interessant nok involverer denne teknik efterligning af genfunktioner som mutation og crossover. Det er publiceret i et førende tidsskrift, Annaler for kerneenergi.
Samtidig udforskes de potentielle militære anvendelser af AI-teknologier i Kims rapport.
Selv om der ikke er mange detaljer om militær anvendelse, er der stigende bekymring for, at AI vil forstærke trusselsaktører fra Nordkorea, Kina og Rusland.
Nordkoreanske hackere har allerede lanceret et stort repertoire af vellykkede cyberangreb - som AI kan forstærke.
I februar 2021 diskuterede et fælles cybersikkerhedsråd udstedt af forskellige amerikanske agenturer og den sydkoreanske efterretningstjeneste stigningen i ransomware-angreb, især rettet mod sundhedssektoren og folkesundheden.
Truslen eskalerede med Maui ransomware angreb i juli 2022. Ifølge en fælles rådgivning fra FBI, CISA og finansministeriet har nordkoreanske statssponsorerede aktører i hvert fald siden maj 2021 brugt denne specifikke ransomware til igen at ramme sundhedssektoren.
I april 2022 skete der endnu en udvikling i Nordkoreas cyberoperationer. En fælles rådgivning understregede, at en nordkoreansk statsstøttet avanceret trusselsgruppe, kendt som Lazarus Group, APT38, BlueNoroff og Stardust Chollima, havde blockchain-virksomheder som mål.
Denne serie af angreb kulminerede i en føderal retssag i USA, hvor tre nordkoreanske computerprogrammører blev anklaget for en storstilet kriminel sammensværgelse. Anklageskriftet var en udvidelse af en sag fra 2018, der omhandlede angreb på Sony Pictures og WannaCry-ransomware.
I sagen blev det påstået, at disse programmører var en del af en fælles indsats for at stjæle over $1,3 milliarder gennem cyberangreb på banker og virksomheder, skabe og implementere ondsindede kryptovaluta-applikationer og udvikle en svigagtig blockchain-platform.
I de sidste par år har Nordkorea fyldt meget i cyberrisikoanalyser. Google Clouds seneste cybersikkerhedsprognose fremhævede den stigende trussel, som AI udgør i forbindelse med cyberkriminalitet, med særlig vægt på Nordkoreas cyberkapacitet.
Rapporten påpegede den øgede sofistikering af phishing-mails og SMS-beskeder på grund af store sprogmodeller (LLM'er), hvilket indikerer, at aktører som Nordkorea kan bruge generativ AI til at udføre mere effektive cyberangreb.
I en parallel rapport belyste Microsofts Threat Analysis Center (MTAC) også AI- og teknologitrusler fra Østasien, herunder Kina og Nordkorea.
Microsofts Rapporten siger"Ud over det, vi har observeret fra Kina, er Nordkorea en dygtig cybertrussel, der fokuserer på efterretningsindsamling og tyveri af kryptovaluta, der er nødvendig for at generere indtægter til staten."
Nordkorea har fri adgang til open source-modeller som LLaMA 2, som næsten er på niveau med verdens førende LLM, GPT-4.
På trods af internationale sanktioner er det tydeligt, at Nordkorea gør fremskridt inden for AI, en teknologi med dobbelt potentiale til både social og militær brug - ligesom i Vesten.
