Em Almendralejo, uma pequena cidade no sul de Espanha, mais de 20 raparigas adolescentes descobriram recentemente que tinham recebido nos seus telemóveis imagens de si próprias nuas geradas artificialmente.
Estes nus falsos, perturbadoramente realistas e profundos, foram manipulados a partir de fotografias inicialmente publicadas nas contas de Instagram das raparigas.
Agora, pais e juristas estão a confrontar-se com a questão: Será que a criação e distribuição destas imagens constitui um crime ao abrigo da legislação em vigor?
As imagens explícitas foram geradas utilizando o ClothOff, uma aplicação de IA, e posteriormente divulgadas em vários grupos do WhatsApp.
Os sujeitos das fotografias estavam completamente vestidos, mas o software de IA alterou as imagens de forma convincente para que a nudez parecesse real.
Isto levou a uma preocupação crescente entre os pais e as autoridades legais sobre se estas fotografias manipuladas poderiam ser classificadas como pornografia infantil.
Miriam Al Adib, mãe de uma das raparigas afectadas, expressou a sua consternação na sua conta do Instagram, afirmando: "As montagens são super realistas, é muito perturbador e um verdadeiro ultraje".
E continuou: "A minha filha disse-me com grande desgosto: 'Mãe, olha o que eles me fizeram'".
Al Adib também manifestou a sua preocupação com o facto de as imagens alteradas poderem ir parar a sítios Web para adultos.
Fátima Gómez, outra mãe preocupada, disse à rede de notícias espanhola Extremadura TV que a sua filha tinha sido chantageada através das redes sociais. Um rapaz exigiu dinheiro à sua filha e, quando ela recusou, enviou-lhe um nu profundo falso.
O O FBI avisou de "sextortion" gerado por IA em junho deste ano, e várias mulheres já foram vítimas.
A Polícia Nacional espanhola investigou o caso e identificou vários jovens alegadamente envolvidos na criação e distribuição destas imagens.
A situação foi também remetida para o Ministério Público de Menores. O presidente da Câmara de Almendralejo advertiu que o que pode ter começado como uma "brincadeira" pode ter consequências legais graves.
ClothOff, a aplicação de IA em questão, tem um slogan desconcertante: "Despir qualquer pessoa, despir raparigas de graça". Alegadamente, cobra 10 euros pela produção de 25 imagens de nudez.
A rapariga mais nova envolvida tinha apenas 11 anos de idade.
A legislação em vigor não oferece uma cobertura adequada
Manuel Cancio, professor de Direito Penal na Universidade Autónoma de Madrid, disse à Euronews que a legislação em vigor pode não tratar adequadamente a questão.
"Uma vez que é gerado por um deepfake, a privacidade real da pessoa em questão não é afetada. O efeito que tem (na vítima) pode ser muito semelhante ao de uma fotografia real de nudez, mas a lei está um passo atrás", explicou.
Essencialmente, o facto de a imagem ser falsa ou "ficcionada" complica as questões legais.
Os juristas estão divididos quanto à tipificação do crime. Alguns argumentam que pode ser enquadrado nas leis de pornografia infantil, o que leva a penas mais severas, enquanto outros sugerem que o crime pode ser considerado uma ofensa à integridade moral.
As interpretações jurídicas do caso seriam diferentes em todo o mundo e, provavelmente, haveria um debate semelhante se isto tivesse acontecido noutros países.
As crianças estão a ser envolvidas em danos relacionados com a IA, tendo o Fórum Económico Mundial (WEF) chamado recentemente a atenção para um a falta flagrante de políticas de proteção das crianças contra os riscos da IA.
Os legisladores americanos também questões levantadas em torno da interação da IA com as crianças, e os jornalistas do Reino Unido descobriram que as redes de pedofilia têm sido gerar conteúdos ilícitos perturbadores utilizando modelos de IA.
Os legisladores estão a ser testados por estes casos - isto revela mais uma vez como a legislação tradicional é simplesmente demasiado pesada para se adaptar aos riscos relacionados com a IA que mal podiam ser imaginados há alguns anos.
