Generativ AI har ställt den kinesiska regeringen inför ett dilemma - ska man riskera att undergräva socialistiska värderingar genom att lätta på reglerna kring AI? Eller riskerar man att hamna ännu längre bak i kapplöpningen mot AI:s överlägsenhet?
Vi har redan sett hur AI-genererat innehåll från ChatGPT och Midjourney kan manipulera människor eller till och med marknader, vilket var fallet när en AI-genererad bild av en explosion vid Pentagon fick USA:s marknader att sjunka med 0,3%.
Dessa AI:er tränas på miljarder datapunkter; de tar in åsikter, synpunkter och stora mängder annan data som smälts samman och syntetiseras när användaren interagerar med verktyget. Generativ AI är i sig självt subversiv - det är en biprodukt av dess design.
I en senaste uttalandetDen kinesiska ledaren Xi Jinping talade om generativ AI: "Vi måste vara beredda på värsta tänkbara och extrema scenarier och vara redo att klara det stora testet med starka vindar, skakigt vatten och till och med farliga stormar."
Kina kämpar mot den generativa AI:ns natur för att utnyttja dess potential utan att skada sitt politiska system. Peking har redan stämplat deep fakes som en "fara för den nationella säkerheten och den sociala stabiliteten" och har utarbetat regler för att säkerställa att AI återspeglar "socialistiska kärnvärden" och inte "innehåller innehåll som undergräver statsmakten".
Regleringarna kommer främst att påverka Baidu, Alibaba och Tencent, som representerar Kinas teknikkraftverk.
Kina och AI: ett dilemma om värderingar
AI utmanar Kinas rykte om att vara en föregångare inom teknisk utveckling.
Bill Drexel och Hannah Kelly, akademiker inom teknik och nationell säkerhet, betonade detta dilemma i en nyligen publicerad artikel i Foreign Affairs"Kinas lättsinniga inställning till tekniska risker, regeringens hänsynslösa ambitioner och Pekings dåliga krishantering är alla på kollisionskurs med de eskalerande farorna med AI."
Kina har redan använt kontroversiella AI-system för befolkningsövervakning, bland annat ett sofistikerat övervakningssystem som är utformat för att identifiera uigurer, en muslimsk minoritet. Omkring 1 miljon uigurer hålls för närvarande inlåsta i "omskolningsläger".
Trots de risker som AI medför ökar Kina investeringarna i inhemsk chiptillverkning för att försöka frigöra sig från utländsk import från företag som Nvidia. Att öka produktiviteten utan att riskera att regeringens sociala värderingar undergrävs kan dock visa sig vara en svårhanterlig utmaning.
