A China avançou mais rapidamente do que qualquer outro governo ocidental no que respeita à regulamentação da IA, mas os recentes aumentos de fraudes com IA sugerem que a regulamentação, por si só, é insuficiente sem estratégias de aplicação robustas.
Regulamentos da China sobre a Administração da síntese profunda dos serviços de informação da Internet entrou em vigor em 10 de janeiro de 2023, proibindo efetivamente a utilização de IA generativa para se fazer passar por outra pessoa ou enganar.
Isto inclui informações falsas geradas com modelos linguísticos como o ChatGPT e falsificações profundas geradas com IAs de texto para imagem como A meio da viagem e DALL-E.
O ChatGPT da OpenAI e outras IAs populares não estão oficialmente disponíveis na China, mas muitos acedem às ferramentas através de redes privadas virtuais (VPN).
O governo chinês agiu rapidamente para regulamentar a IA para evitar "ameaças existenciais" ao seu regime socialista e reduzir o impacto da fraude e da cibercriminalidade.
No entanto, fontes na China referiram que A fraude no domínio da IA é frequente no paísque resultou numa ação repressiva contra as pessoas que geram conteúdos falsos.
Por exemplo, um caso envolveu um homem que recebeu uma chamada de um burlão através da aplicação de mensagens chinesa WeChat. Os burlões reproduziram a voz e o rosto do amigo do homem e convenceram-no a transferir a soma equivalente a $600.000 para outra conta bancária.
O homem ficou convencido até telefonar ao seu amigo para confirmar a transferência. "Tínhamos uma conversa por vídeo e eu reconheci a cara e a voz no vídeo; foi por isso que baixei a guarda", disse às autoridades.
De facto, houve tantos incidentes de fraude com IA que a hashtag #AIFraudIsEruptingAcrossChina começou a aparecer na plataforma chinesa de redes sociais Weibo. No entanto, a hashtag desapareceu desde então, levando as pessoas a acreditar que as autoridades estão a tentar censurar a discussão.
A regulamentação chinesa em matéria de IA é um guia útil para outros países
A rápida ação da China em matéria de regulamentação é parcialmente atribuída à abordagem do governo em relação à censura. Por outro lado, a lOs legisladores da UE e dos EUA estão a debater-se com a necessidade de distinguir os riscos das falsificações profundas da "utilização justa" para a liberdade de expressão e a sátira.
As falsificações profundas vão desde a representação de Elon Musk em traje indiano para gerar fotos das explosões no Pentágono - e a separação jurídica de cada caso é excecionalmente difícil.
Uma arte de Elon Musk a meio da viagem num traje indiano está a tornar-se viral na Índia. 🇮🇳 pic.twitter.com/LD1KuIAHET
- DogeDesigner (@cb_doge) 3 de junho de 2023
Apesar das diferenças sociopolíticas, os analistas defendem que devemos acompanhar de perto o impacto da regulamentação chinesa em matéria de IA.
Por exemplo, Graham Webster, um investigador da Universidade de Stanford que acompanha a evolução da política digital da China, disse ao Jornal de NotíciasA China está a aprender com o mundo sobre os potenciais impactos destas coisas, mas está a avançar mais rapidamente com regras obrigatórias e com a sua aplicação" e "As pessoas em todo o mundo devem observar o que acontece".
O humor das falsificações profundas satíricas pode esgotar-se se a fraude relacionada com as falsificações profundas aumentar em frequência e gravidade, o que parece inevitável. A regulamentação da IA nos EUA, na UE e noutras jurisdições ainda está a ser preparada, mas há opções de curto prazo em cima da mesa, como um "pacto de IA" voluntário ou "stop gaps" para reduzir o risco agora.
O atual problema da China com a fraude relacionada com a IA indica que a mera presença de legislação pode não ser suficiente para conter o risco de fraude relacionada com a IA.
