Kina har bevæget sig hurtigere end nogen anden vestlig regering med hensyn til AI-regulering, men de seneste stigninger i AI-drevet svindel tyder på, at regulering alene er utilstrækkelig uden robuste håndhævelsesstrategier.
Kinas bestemmelser om Administration af dyb syntese af internetinformationstjenester trådte i kraft den 10. januar 2023 og forbød effektivt brugen af generativ AI til at udgive sig for at være eller bedrage.
Dette omfatter falske oplysninger genereret med sprogmodeller som ChatGPT og dybe forfalskninger genereret med tekst-til-billede-AI'er som Midt på rejsen og DALL-E.
OpenAI's ChatGPT og andre populære AI'er er ikke officielt tilgængelige i Kina, men mange får adgang til værktøjerne via virtuelle private netværk (VPN'er).
Den kinesiske regering gik hurtigt i gang med at regulere AI for at forhindre "eksistentielle trusler" mod deres socialistiske regime og reducere konsekvenserne af svindel og cyberkriminalitet.
Men kilder i Kina har nævnt, at AI-svindel er udbredt i landethvilket resulterede i et angreb på folk, der genererer falsk indhold.
For eksempel var der en sag, hvor en mand modtog et opkald fra en svindler på den kinesiske besked-app WeChat. Svindlerne kopierede mandens vens stemme og ansigt og overtalte ham til at overføre et beløb svarende til $600.000 til en anden bankkonto.
Manden var overbevist, indtil han ringede til sin ven for at bekræfte overførslen. "Vi havde en videochat, og jeg genkendte ansigtet og stemmen i videoen; derfor sænkede jeg paraderne," sagde han til myndighederne.
Faktisk har der været så mange tilfælde af AI-svindel, at hashtagget #AIFraudIsEruptingAcrossChina begyndte at dukke op på den kinesiske sociale medieplatform Weibo. Men hashtagget er siden forsvundet, hvilket får folk til at tro, at myndighederne forsøger at censurere diskussionen.
Kinesisk AI-regulering er en nyttig guide for andre lande
Kinas hurtige indsats på reguleringsområdet skyldes til dels regeringens tilgang til censur. Omvendt har jegLovgivere i EU og USA kæmper med at afgrænse risikoen for dybe forfalskninger fra "fair use" for ytringsfrihed og satire.
Dybe forfalskninger spænder fra at afbilde Elon Musk i indisk kjole til at generere Billeder af eksplosioner i Pentagon - og det er usædvanligt svært at adskille hver enkelt sag juridisk.
Et billede midt på rejsen af Elon Musk i indisk klædedragt går viralt i Indien. 🇮🇳 pic.twitter.com/LD1KuIAHET
- DogeDesigner (@cb_doge) 3. juni 2023
På trods af sociopolitiske forskelle mener analytikere, at vi nøje bør overvåge indvirkningen af kinesiske AI-regler.
For eksempel sagde Graham Webster, en forsker fra Stanford University, der følger Kinas digitale politikudvikling, til Wall Street Journal"Kina lærer sammen med verden om de potentielle konsekvenser af disse ting, men det går hurtigere fremad med obligatoriske regler og håndhævelse" og "Folk rundt om i verden bør holde øje med, hvad der sker."
Humoren i satiriske deep fakes kan blive slidt op, hvis deep fake-relateret svindel stiger i hyppighed og alvor, hvilket synes uundgåeligt. AI-regulering i USA, EU og andre jurisdiktioner er stadig i støbeskeen, men der er kortsigtede muligheder på bordet, såsom en frivillig 'AI-pagt' eller 'stop gaps' for at begrænse risikoen nu.
Kinas nuværende problem med AI-relateret svindel viser, at den blotte tilstedeværelse af lovgivning måske ikke er nok til at dæmme op for risikoen for AI-relateret svindel.
