O UK Safer Internet Centre (UKSIC) informou que as crianças estão a utilizar geradores de imagens de IA para criar imagens indecentes de outras crianças.
A instituição de caridade disse que analisou um "pequeno número de relatórios", mas salientou que é necessário agir agora, antes que o problema se espalhe.
David Wright, diretor do UKSIC, sublinha a necessidade de uma ação imediata: "[Precisamos] de ver medidas a serem tomadas agora, antes que as escolas fiquem sobrecarregadas e o problema cresça".
As crianças, em particular, provavelmente não se apercebem das implicações da utilização da IA desta forma.
No Reino Unido, a criação, posse ou distribuição de tais imagens é ilegal, independentemente de serem reais ou geradas por IA.
A instituição de caridade alertou para o facto de estas imagens poderem ser utilizadas indevidamente ou circularem em linha, levando a consequências indesejadas, incluindo chantagem.
Este não é um caso isolado. espanhol e Escolas americanas ambos foram alvo das suas próprias controvérsias em matéria de imagens geradas por IA nos últimos tempos, com a troca de imagens ilícitas de menores.
Além disso, há um debate considerável sobre quem é responsável por educar as crianças sobre os malefícios desse tipo de material. Será que o dever recai sobre os pais, as escolas ou os governos?
Investigação separada efectuada por uma empresa de tecnologia educativa Tecnologia RM envolvendo 1000 alunos, mostrou que quase um terço utiliza a IA para actividades em linha inadequadas.
Tasha Gibson, directora de segurança em linha da RM Technology, afirmou: "Os estudantes que utilizam a IA regularmente são agora comuns".De facto, a sua compreensão da IA é mais avançada do que a da maioria dos professores, criando uma lacuna de conhecimento".
As aplicações facilitam a criação de imagens ilícitas
As chamadas aplicações de "declinação" apareceram pela primeira vez nas plataformas de redes sociais em 2019, frequentemente utilizadas em serviços de mensagens como o Telegram como software automatizado com capacidades de IA.
Inicialmente, estas aplicações eram relativamente pouco sofisticadas, mas os avanços na IA generativa melhoraram a sua capacidade de criar imagens falsas fotorrealistas.
O modelo envolvido no caso espanhol atraiu quase 50 000 subscritores. Normalmente, os utilizadores podem criar um certo número de imagens gratuitamente antes de serem obrigados a pagar uma taxa.
Em muitos casos, a utilização destas aplicações é motivada pela curiosidade, diz UKSIC, mas isso não constitui certamente uma defesa legal.
Um homem da Carolina do Norte tornou-se recentemente provavelmente o primeiro indivíduo a ser condenado por crimes sexuais relacionados com a IA, recebendo uma pena de 40 anos de prisão. É pouco provável que seja o último.
