Kina har gått raskere frem enn noen annen vestlig regjering når det gjelder regulering av AI, men den siste tidens økning i AI-drevet svindel tyder på at regulering alene ikke er tilstrekkelig uten robuste håndhevingsstrategier.
Kinas forskrifter om Administrasjon av Deep Synthesis of Internet Information Services trådte i kraft 10. januar 2023, og forbyr i praksis bruk av generativ AI for å utgi seg for å være eller lure andre.
Dette inkluderer falsk informasjon generert med språkmodeller som ChatGPT og dype forfalskninger generert med tekst-til-bilde AI som Midt på reisen og DALL-E.
OpenAIs ChatGPT og andre populære AI-er er ikke offisielt tilgjengelige i Kina, men mange får tilgang til verktøyene via virtuelle private nettverk (VPN).
Kinesiske myndigheter gikk raskt i gang med å regulere kunstig intelligens for å forhindre "eksistensielle trusler" mot det sosialistiske regimet og redusere konsekvensene av svindel og datakriminalitet.
Kilder i Kina har imidlertid opplyst at AI-svindel er utbredt i landet, noe som resulterte i en aksjon mot personer som genererte falskt innhold.
I ett tilfelle ble en mann for eksempel oppringt av en svindler på den kinesiske meldingsappen WeChat. Svindlerne kopierte stemmen og ansiktet til mannens venn, og overtalte ham til å overføre tilsvarende $600 000 til en annen bankkonto.
Mannen var overbevist helt til han ringte vennen sin for å bekrefte overføringen. "Vi hadde en videochat, og jeg kjente igjen ansiktet og stemmen i videoen. Det var derfor jeg slapp guarden", sa han til myndighetene.
Faktisk har det vært så mange tilfeller av AI-svindel at emneknaggen #AIFraudIsEruptingAcrossChina begynte å dukke opp på den kinesiske sosiale medieplattformen Weibo. Emneknaggen har imidlertid forsvunnet siden, noe som får folk til å tro at myndighetene prøver å sensurere diskusjonen.
Kinesisk AI-regulering er en nyttig rettesnor for andre land
Kinas raske tiltak på reguleringsområdet kan delvis tilskrives myndighetenes tilnærming til sensur. På den annen side har llovgivere i EU og USA sliter med å skille mellom risikoen ved dype forfalskninger og "fair use" av hensyn til ytringsfrihet og satire.
Dype forfalskninger spenner fra å avbilde Elon Musk i indisk kjole til å generere bilder av eksplosjoner i Pentagon - og det er svært vanskelig å skille de ulike sakene fra hverandre juridisk.
Et bilde av Elon Musk i indisk antrekk går viralt i India. 🇮🇳 pic.twitter.com/LD1KuIAHET
- DogeDesigner (@cb_doge) 3. juni 2023
Til tross for sosiopolitiske forskjeller mener analytikere at vi bør følge nøye med på effekten av kinesiske AI-reguleringer.
Graham Webster, en forsker ved Stanford University som følger Kinas digitalpolitiske utvikling, sa for eksempel til Wall Street Journal"Kina lærer sammen med resten av verden om de potensielle konsekvensene av disse tingene, men det går raskere fremover med obligatoriske regler og håndhevelse" og "Folk rundt om i verden bør følge med på hva som skjer."
Humoren i satiriske "deep fakes" kan bli tynnslitt hvis svindel knyttet til "deep fakes" øker i hyppighet og alvorlighetsgrad, noe som virker uunngåelig. Regulering av kunstig intelligens i USA, EU og andre jurisdiksjoner er fortsatt på trappene, men det finnes kortsiktige alternativer, for eksempel en frivillig "AI-pakt" eller "stop gaps" for å begrense risikoen nå.
Kinas nåværende problem med AI-relatert svindel tyder på at det ikke er sikkert at lovgivning i seg selv er nok til å demme opp for risikoen for AI-relatert svindel.
