I en analys som publicerats av Hyuk Kim från James Martin Center for Nonproliferation Studies framgår att Nordkorea intensifierar sin satsning på AI och ML.
Rapporten undersökte både landets civila och militära tillämpningar och gav en sällsynt inblick i den hemlighetsfulla statens teknologiska strategier.
På 1990-talet ansågs Nordkorea vara en föregångare inom AI, med sin Eunbyul-systemet utvecklades av Korea Computer Center 1997 och vann internationella "Go"-tävlingar fram till 2010. Det säkrade en seger i Go redan 1998 och toppade World Computer Go Championship från 2003 till 2006.
Eunbyul använde faktiskt många av samma Monte Carlo-tekniker som Googles betydligt mer kända AlphaGo-system, som skapade tekniska rubriker när det slog mästaren Lee Sedol 2016. År 2010 hade Eunbyul 16 processorer, medan AlphaGo hade 1 920 år 2016.
Detta skedde vid en tidpunkt då relationerna mellan Nord- och Sydkorea, Japan och andra traditionellt Go-spelande länder var på topp.
I takt med att Nordkorea hamnade alltmer i skymundan och spänningarna med väst ökade när den kommunistiska nationen kämpade mot sina egna demoner av fattigdom och misär, minskade oundvikligen dess AI-industri.
I en studie från Korea Development Bank Future Strategy Institute 2017 konstaterades att "för att säkra den senaste AI-tekniken måste Nordkorea göra massiva investeringar i hård- och mjukvara" och att "det penningstinna Nordkorea förväntas gå in i väggen när det gäller att utveckla tekniken".
Detta är dock ny analys av Hyuk Kim konstaterade att Nordkorea har hittat sätt att hålla jämna steg med AI/ML-utvecklingen under de senaste åren.
Kim konstaterar att även om "försök att skaffa hårdvara för AI-utveckling kan ha hindrats, tyder information från öppna källor, inklusive vetenskapliga tidskriftsartiklar och statliga medier, på att Nordkorea aktivt utvecklar och främjar AI/ML-teknik inom olika sektorer".
Rapporten undersöker hur Nordkoreas regering, den akademiska världen och näringslivet samarbetar för att utveckla AI-teknik.
I en grundlagsändring 2019 lade Nordkorea till "informatisering" i sina ekonomiska kärnstrategier, vilket illustrerar landets åtagande att integrera AI i sin ekonomiska plan.
Inrättandet av Artificial Intelligence Research Institute 2013, som senare slogs samman med Ministry of Information Industry, markerade också ett avgörande steg för att intensifiera FoU inom AI.
Akademiska och kommersiella fronter inom AI-utveckling
Nordkoreas utbildningsinstitutioner, som Kim Il Sung-universitetet, leder landets AI-forskning.
Universitetets High-Technology Development Center, som etablerades 2014, och efterföljande AI-fokuserade program på andra universitet över hela landet illustrerar ett föryngrat fokus på AI-teknik.
På det kommersiella planet har nordkoreanska företag som Mangyongdae Information Technology Corporation lanserat AI-integrerade mobiltelefoner och Yalu River Technology Development Company har använt AI i säkerhetssystem.
I Kims rapport beskrivs följande: "År 2020 kommer Mangyongdae Information Technology Corporation (만경대 정보대기술사) lanserade två mobiltelefoner, Azalea 6 och 7 (Jindallae 6, 7, 진달래 6, 7). Företaget hävdar att man framgångsrikt har införlivat teknik för fingeravtrycks-, röst-, ansikts- och textigenkänning, baserad på djupa neurala nätverk (DNN), i denna enhet."
Nordkorea främjar nu aktivt inhemskt tekniskt samarbete och har som sagt som mål att "aktivt främja forsknings- och utvecklingssamarbete med välkända IT-företag från över 20 länder".
Bland landets viktigaste men fortfarande svaga allierade finns Ryssland och Kina, men landet har också relationer med Pakistan, Bulgarien, Benin, Malaysia och Madagaskar.
De har också påståtts sålda vapen till länder i Mellanöstern. Dessa relationer ger visst utrymme för nordkoreansk AI-utveckling, även om landets upphandling av avancerad AI-hårdvara från ledare som Nvidia är mycket begränsad.
Dubbla användningsområden: civilt och militärt
En annan aspekt av Kims studie är AI:s potential för dubbla användningsområden i Nordkorea, något som också ofta debatteras i väst.
Tanken här är att samma kraftfulla AI-modeller som används för i stort sett "goda" syften också kan ha negativa effekter.
AI:s dubbla användningsområden gör att reglering och förbud i sig är komplicerade.
På den samhälleliga fronten i Nordkorea används AI för att förbättra kärnsäkerheten, enligt rapporten. Ett anmärkningsvärt exempel är det arbete som utfördes av de nordkoreanska kärnforskarna Ho Il Mun och So Chol, som publicerade en studie om optimering av kärnreaktorsäkerhet med hjälp av genetiska algoritmer, en maskininlärningsteknik.
Intressant nog innebär denna teknik att man efterliknar genfunktioner som mutation och crossover. Det är publicerat i en ledande tidskrift, Annaler för kärnenergi.
Samtidigt utforskas de potentiella militära tillämpningarna av AI-teknik i Kims rapport.
Även om detaljerna kring militär användning inte är särskilt detaljerade finns det en växande oro för att AI kommer att förstärka hotaktörer från Nordkorea, Kina och Ryssland.
Nordkoreanska hackare har redan lanserat en stor repertoar av framgångsrika cyberattacker - som AI skulle kunna förstärka.
I februari 2021 diskuterades i en gemensam cybersäkerhetsrådgivning från olika amerikanska myndigheter och sydkoreansk underrättelsetjänst ökningen av ransomware-attacker, särskilt riktade mot hälso- och sjukvårdssektorn.
Hotet eskalerade i och med Maui ransomware attacker i juli 2022. Enligt en gemensam rådgivning från FBI, CISA och finansdepartementet har nordkoreanska statssponsrade aktörer sedan åtminstone maj 2021 använt detta specifika utpressningsprogram för att återigen rikta in sig på hälso- och sjukvårdssektorn.
April 2022 såg en annan utveckling i Nordkoreas cyberoperationer. En gemensam rådgivning lyfte fram inriktningen på blockchainföretag av en nordkoreansk statsstödd avancerad hotgrupp känd som Lazarus Group, APT38, BlueNoroff och Stardust Chollima.
Denna serie attacker kulminerade i en federal stämning i USA, där tre nordkoreanska datorprogrammerare åtalades för en storskalig kriminell konspiration. Åtalet byggde vidare på ett fall från 2018 med detaljerade uppgifter om attacker mot Sony Pictures och utpressningsprogrammet WannaCry.
I målet hävdades att dessa programmerare var en del av en samordnad insats för att stjäla över $1,3 miljarder genom cyberattacker mot banker och företag, skapa och distribuera skadliga kryptovalutaprogram och utveckla en bedräglig blockkedjeplattform.
Under de senaste åren har Nordkorea förekommit flitigt i cyberriskanalyser. Google Clouds senaste cybersäkerhetsprognos lyfte fram det ökande hot som AI utgör när det gäller cyberbrottslighet, med särskild tonvikt på Nordkoreas cyberkapacitet.
Rapporten pekade på den ökade sofistikeringen av phishing-e-post och SMS-meddelanden tack vare stora språkmodeller (LLM), vilket tyder på att aktörer som Nordkorea kan använda generativ AI för att genomföra effektivare cyberattacker.
I en parallell rapport belyste Microsofts Threat Analysis Center (MTAC) även AI- och teknikhot från Östasien, inklusive Kina och Nordkorea.
Microsofts rapporten anger"Utöver vad vi har sett från Kina är Nordkorea ett kapabelt cyberhot som fokuserar på underrättelseinhämtning och stöld av kryptovaluta som behövs för att generera intäkter till staten."
Nordkorea har fri tillgång till modeller med öppen källkod som LLaMA 2, som är nästan i nivå med den världsledande LLM, GPT-4.
Trots internationella sanktioner verkar det uppenbart att Nordkorea gör framsteg inom AI, en teknik med dubbel potential för både social och militär användning - på samma sätt som i väst.
