Nus falsos gerados por IA de estudantes do liceu de Westfield, em Nova Jérsia, nos EUA, foram distribuídos entre os colegas e não há uma via clara de ação legal a tomar contra os autores.
A directora Mary Asfendis descreveu a situação num e-mail enviado aos pais como um "incidente muito grave".
Tescola mantém silêncio sobre os pormenores do incidente, incluindo o número de pessoas afectadas ou quaisquer medidas disciplinares contra os autores, alegando preocupações de confidencialidade.
O e-mail enviado pelo diretor foi divulgado à imprensa e dizia o seguinte
"Estou a escrever-vos para vos dar conhecimento de uma situação que deu origem a uma desinformação generalizada e provocou grande preocupação e inquietação entre o corpo discente da Westfield High School. Hoje cedo, os alunos chamaram a nossa atenção para o facto de alguns dos nossos alunos terem utilizado a Inteligência Artificial para criar imagens pornográficas a partir de fotografias originais. Houve uma grande preocupação sobre quem tinha imagens suas criadas e se estas tinham sido partilhadas.
Neste momento, acreditamos que todas as imagens criadas foram apagadas e não estão a circular. Trata-se de um incidente muito grave. Estamos a continuar a investigar e informaremos os indivíduos e as famílias dos alunos envolvidos assim que a investigação estiver concluída. Isso acontecerá antes do fim de semana. Disponibilizámos aconselhamento a todos os alunos afectados e encorajámo-los a regressar às aulas quando se sentirem capazes de o fazer. Para além disso, o nosso School Resource Officer e a Polícia de Westfield foram informados da nossa investigação. Se um pai/tutor pensa que o seu filho é vítima de um ato criminoso relacionado com este incidente, por favor comunique o facto à Polícia de Westfield.
Queria alertá-los para a situação, pois, para além de prejudicar os alunos envolvidos e perturbar o dia escolar, é extremamente importante falar com os vossos filhos sobre a utilização que fazem da tecnologia e o que publicam, guardam e partilham nas redes sociais. As novas tecnologias tornaram possível a falsificação de imagens e os alunos precisam de saber o impacto e os danos que essas acções podem causar aos outros.
Continuaremos a educar os vossos filhos sobre a importância de uma utilização responsável da tecnologia e esperamos que reforcem estas mensagens em casa".
Esta situação não é exclusiva da Westfield High School. A Espanha viveu uma situação semelhante em setembro, e figuras públicas e vários influenciadores em linha também se viram envolvidos em controvérsias sobre pornografia deepfake.
Em Nova Jérsia, não existe legislação que penalize a criação e distribuição de nus falsos criados por IA.
A 10 de outubro, o Governador Phil Murphy revelou um grupo de trabalho sobre IA para investigar os benefícios, o crescimento e os riscos desta tecnologia, mas continua a não existir uma lei definitiva sobre esta matéria.
A ordem executiva do Presidente Biden sobre a regulamentação da IA propõe medidas de supervisão, estabelecimento de salvaguardas e investimentos tecnológicos. No entanto, fica aquém de instituir uma lei federal geral contra nus falsos profundos, e não há um cronograma para tal legislação.
Bradley Waldstreicher, editor associado da Cardozo Law ReviewEm maio de 2021, o Tribunal de Justiça das Comunidades Europeias (TJCE), sublinhou a complexidade da legislação federal sobre deepfakes, declarando "Se for aprovada legislação federal sobre deepfake que vise especificamente deepfakes pornográficos, então, para ser constitucional, os deepfakes pornográficos podem precisar de se enquadrar na exceção categórica da Primeira Emenda de ser uma categoria separada como a pornografia infantil....[T]aqui não há uma solução clara. No mínimo, antes de ser aprovada legislação federal substantiva, os investigadores têm de realizar mais estudos para conhecer o impacto que os deepfakes pornográficos têm nas vítimas e nos utilizadores da Internet."
Um olhar mais atento ao aumento de nus falsos gerados por IA revela números surpreendentes. De acordo com o Washington PostSegundo Genevieve Oh, uma analista do sector, registou-se um aumento de 290% deste tipo de conteúdo desde 2018 em sítios Web importantes que alojam fotografias pornográficas geradas por IA.
UM REINO UNIDO investigação da BBC revelou o aumento surpreendente da pornografia falsa, incluindo a de crianças, em sítios como o Patreon.
Só em 2023, 143.000 vídeos pornográficos deepfake foram postados em plataformas populares, gerando mais de 4,2 bilhões de visualizações - um salto significativo em relação aos anos anteriores. A Sensity AI relata que 90 a 95% desses vídeos apresentam imagens femininas não consensuais.
O FBI também destacou um aumento nos casos de "sextortion", com 26.800 vítimas americanas relatadas até setembro deste ano, marcando um aumento de 149% em relação a 2019.
As falsificações profundas são um dos riscos mais iminentes e prementes da IA, e são excecionalmente difíceis de conter.
Falsificações que surgem em todo o Conflito israelo-palestiniano também salientou a possibilidade de as imagens autênticas serem falsamente rotuladas como geradas por IA, um exemplo de "dividendo do mentiroso" em que a informação real pode ser ignorada como falsa.
Isto também se estende a vozes e vídeos gerados por IA, visando frequentemente os líderes políticosO receio de que este facto possa influenciar o comportamento eleitoral.
