Um tribunal de menores de Badajoz, em Espanha, condenou 15 alunos a um ano de liberdade condicional por terem criado e difundido imagens de nudez das suas colegas de turma geradas por inteligência artificial.
Os menores, com idades compreendidas entre os 13 e os 15 anos, foram considerados culpados de 20 crimes de criação de imagens de abuso de menores e de 20 crimes contra a integridade moral.
Como parte da sua sentença, os arguidos devem frequentar aulas de igualdade de género e de responsabilidade tecnológica.
O tribunal declarou que os menores utilizaram aplicações de IA para manipular fotografias originais de raparigas retiradas das redes sociais, sobrepondo os seus rostos a corpos femininos nus.
O caso surgiu pela primeira vez em setembro do ano passado em Almendralejo, uma pequena cidade no sudoeste de Espanha, quando os pais denunciaram que as imagens das suas filhas estavam a circular no WhatsApp. As fotografias manipuladas mostravam as raparigas nuas de forma realista, causando imensa angústia e ansiedade entre as vítimas, algumas com apenas 11 anos.
"É um choque quando a vemos", disse a mãe de uma das vítimas. "A imagem é completamente realista... Se eu não conhecesse o corpo da minha filha, teria pensado que aquela imagem era real."
A mãe de outra vítima, Miriam Al Adib, expressou sua indignação no Instagram, dizendo: "As montagens são super realistas, é muito perturbador e um verdadeiro ultraje".
Partilhou como a filha veio ter com ela enojada, dizendo: "Mãe, olha o que me fizeram". Al Adib também se mostrou preocupada com o facto de as imagens falsas de nudez poderem ir parar a sítios Web para adultos.
Outra mãe, Fátima Gómez, disse aos meios de comunicação locais que a sua filha foi chantageada por um colega por causa dos falsos nus. Um rapaz exigiu dinheiro à sua filha e, quando ela recusou, enviou-lhe uma imagem manipulada de si própria nua.
As investigações policiais revelaram que foi utilizada uma aplicação chamada "ClothOff AI" para gerar as imagens a partir de fotografias das redes sociais.
A aplicação tem o slogan perturbador "Undress anybody, undress girls for free" e, alegadamente, cobra 10 euros para gerar 25 imagens de nudez.
Proteção dos menores na era da IA
Este caso histórico sublinha a necessidade urgente de atualizar as leis e políticas para fazer face à ameaça crescente das falsificações profundas geradas por IA, em especial as que visam menores.
Os peritos afirmam que a legislação existente é inadequada para processar estes novos crimes, deixando as vítimas vulneráveis.
"Para além deste julgamento em particular, estes factos devem fazer-nos refletir sobre a necessidade de educar as pessoas para a igualdade entre homens e mulheres", declarou a Associação Malvaluna, que representa as famílias afectadas.
Salientaram a necessidade de uma educação sexual abrangente nas escolas para combater os efeitos nocivos da pornografia e das falsificações profundas.
À medida que a tecnologia da IA avança rapidamente, aumentam as preocupações quanto ao seu potencial de abuso e exploração, sendo as mulheres e as crianças desproporcionadamente visadas.
O Fórum Económico Mundial (WEF) e os legisladores dos EUA chamaram recentemente a atenção para a falta de políticas que protejam os menores dos riscos da IA.
Os legisladores americanos também questões levantadas em torno da interação da IA com as crianças, que se tornou claramente um ponto cego nos regulamentos e orientações. Os criadores de IA colocam limites de idade nas suas ferramentas, mas estes são de eficácia duvidosa.
A colaboração entre decisores políticos, empresas tecnológicas, educadores e pais é essencial para enfrentar estes desafios e criar um futuro digital mais seguro para todos, especialmente para as crianças.
