Kina har agerat snabbare än någon annan västerländsk regering när det gäller AI-reglering, men den senaste tidens ökningar av AI-drivna bedrägerier tyder på att enbart reglering är otillräckligt utan robusta verkställighetsstrategier.
Kinas bestämmelser om Administration av Deep Synthesis of Internet Information Services trädde i kraft den 10 januari 2023 och förbjuder i praktiken användning av generativ AI för att efterlikna eller bedra.
Detta inkluderar falsk information som genereras med språkmodeller som ChatGPT och djupa förfalskningar som genereras med text-till-bild-AI som MidJourney och DALL-E.
OpenAI:s ChatGPT och andra populära AI:er är inte officiellt tillgängliga i Kina, men många får tillgång till verktygen via virtuella privata nätverk (VPN).
Den kinesiska regeringen agerade snabbt för att reglera AI för att förhindra "existentiella hot" mot den socialistiska regimen och minska effekterna av bedrägerier och cyberbrottslighet.
Källor i Kina har dock uppgett att AI-bedrägerier är vanligt förekommande i landetvilket resulterade i ett tillslag mot personer som genererar falskt innehåll.
I ett fall fick till exempel en man ett samtal från en bedragare via den kinesiska meddelandeappen WeChat. Bedragarna kopierade mannens väns röst och ansikte och övertalade honom att föra över motsvarande $600.000 till ett annat bankkonto.
Mannen var övertygad tills han ringde sin vän för att bekräfta överföringen. "Vi hade en videochatt, och jag kände igen ansiktet och rösten i videon; det var därför jag släppte ner min vakt", berättade han för myndigheterna.
Faktum är att det har förekommit så många incidenter med AI-bedrägerier att hashtaggen #AIFraudIsEruptingAcrossChina började dyka upp på den kinesiska sociala medieplattformen Weibo. Hashtaggen har dock försvunnit sedan dess, vilket får människor att tro att myndigheterna försöker censurera diskussionen.
Kinesisk AI-reglering är en användbar vägledning för andra länder
Kinas snabba agerande när det gäller reglering beror delvis på regeringens inställning till censur. Omvänt har llagstiftare i EU och USA kämpar för att skilja riskerna med djupa förfalskningar från "fair use" för yttrandefrihet och satir.
Djupa förfalskningar sträcker sig från att avbilda Elon Musk i indisk klänning till generering foton av explosioner vid Pentagon - och det är exceptionellt svårt att skilja varje enskilt fall åt juridiskt.
En bild av Elon Musk i indisk klädsel mitt under resan har blivit viral i Indien. 🇮🇳 pic.twitter.com/LD1KuIAHET
- DogeDesigner (@cb_doge) 3 juni 2023
Trots de sociopolitiska skillnaderna anser analytiker att vi noga bör följa effekterna av de kinesiska AI-reglerna.
Till exempel sa Graham Webster, en forskare vid Stanford University som följer Kinas digitala politiska utveckling, till Wall Street Journal"Kina lär sig tillsammans med resten av världen om de potentiella effekterna av dessa saker, men går snabbare fram med obligatoriska regler och verkställighet" och "Människor runt om i världen bör observera vad som händer."
Humorn i satiriska "deep fakes" kan försvinna om bedrägerier relaterade till "deep fakes" ökar i frekvens och allvarlighetsgrad, vilket verkar oundvikligt. Reglering av AI i USA, EU och andra jurisdiktioner är fortfarande under utarbetande, men det finns kortsiktiga alternativ på bordet, t.ex. en frivillig "AI-pakt" eller "stoppklossar" för att minska riskerna nu.
Kinas nuvarande problem med AI-relaterade bedrägerier tyder på att det kanske inte räcker med lagstiftning för att stävja risken för AI-relaterade bedrägerier.
