China heeft sneller dan welke westerse regering dan ook actie ondernomen op het gebied van AI-regelgeving, maar recente pieken in AI-gestuurde fraude suggereren dat regelgeving alleen onvoldoende is zonder robuuste handhavingsstrategieën.
China's regelgeving voor de Beheer van diepe synthese van internetinformatiediensten werd van kracht op 10 januari 2023 en verbiedt het gebruik van generatieve AI om zich voor te doen als iemand die zich voordoet of misleidt.
Dit omvat valse informatie gegenereerd met taalmodellen zoals ChatGPT en diepe vervalsingen gegenereerd met tekst-naar-beeld AI's zoals Reis halverwege en DALL-E.
ChatGPT van OpenAI en andere populaire AI's zijn niet officieel beschikbaar in China, maar velen hebben toegang tot de tools via virtuele privénetwerken (VPN's).
De Chinese overheid heeft snel actie ondernomen om AI te reguleren om 'existentiële bedreigingen' voor hun socialistische regime te voorkomen en de impact van fraude en cybercriminaliteit te verminderen.
Bronnen in China hebben echter gezegd dat AI-fraude is wijdverbreid in het landwat resulteerde in een hardhandig optreden tegen mensen die valse inhoud genereren.
In één geval kreeg een man bijvoorbeeld een telefoontje van een oplichter via de Chinese berichtenapp WeChat. De oplichters imiteerden de stem en het gezicht van de vriend van de man en haalden hem over om een bedrag van $600,000 over te maken naar een andere bankrekening.
De man was overtuigd totdat hij zijn vriend belde om de overdracht te bevestigen. "We hadden een videochat en ik herkende het gezicht en de stem in de video; daarom was ik niet op mijn hoede," vertelde hij de autoriteiten.
Er zijn zelfs zoveel incidenten van AI-fraude geweest dat de hashtag #AIFraudIsEruptingAcrossChina verscheen op het Chinese sociale media platform Weibo. De hashtag is sindsdien echter verdwenen, waardoor mensen denken dat de autoriteiten de discussie proberen te censureren.
Chinese AI-regelgeving is een nuttige gids voor andere landen
China's snelle actie op het gebied van regulering wordt deels toegeschreven aan de manier waarop de regering censuur aanpakt. Omgekeerd is lToezichthouders in de EU en de VS worstelen om de risico's van 'deep fakes' af te bakenen van 'fair use' voor de vrijheid van meningsuiting en satire.
Diepe vervalsingen variëren van afbeeldingen van Elon Musk in Indiase jurk voor het genereren van foto's van explosies bij het Pentagon - en het is uitzonderlijk moeilijk om elke zaak juridisch te scheiden.
Een kunstwerk van Elon Musk in Indiase kledij gaat viral in India. 🇮🇳 pic.twitter.com/LD1KuIAHET
- DogeDesigner (@cb_doge) 3 juni 2023
Ondanks sociaal-politieke verschillen stellen analisten dat we de impact van de Chinese AI-regelgeving nauwlettend in de gaten moeten houden.
Graham Webster, een onderzoeker aan de Stanford University die de ontwikkelingen in China op het gebied van digitaal beleid volgt, vertelde bijvoorbeeld aan de Wall Street Journal, "China leert met de wereld over de mogelijke gevolgen van deze dingen, maar het gaat sneller vooruit met verplichte regels en handhaving" en "Mensen over de hele wereld zouden moeten observeren wat er gebeurt."
De humor van satirische deep fakes zou wel eens kunnen verdwijnen als deep fake-gerelateerde fraude in frequentie en ernst toeneemt, wat onvermijdelijk lijkt. AI-regelgeving in de VS, de EU en andere rechtsgebieden zit nog in de pijplijn, maar er liggen opties voor de korte termijn op tafel, zoals een vrijwillig 'AI-pact' of 'stopgaps' om de risico's nu al te beperken.
China's huidige probleem met AI-gerelateerde fraude geeft aan dat de aanwezigheid van wetgeving alleen misschien niet genoeg is om het risico op AI-gerelateerde fraude in te dammen.
