As empresas de IA estão a ser processadas por violação de direitos de autor, mas as imagens geradas por IA também representam um risco jurídico potencial para os utilizadores finais.
Num artigo publicado no Espectro do IEEENa conferência de imprensa realizada em Lisboa, o cientista cognitivo Dr. Gary Marcus e o artista concetual de cinema Reid Southen descreveram o problema crescente de plágio visual que os geradores de arte de IA têm.
Nós anteriormente relatado nas imagens que Southen e outros foram capazes de gerar usando Viagem intermédia v6. Com algumas indicações cuidadosas, as imagens geradas pareciam extremamente semelhantes a capturas de ecrã de filmes de grande sucesso protegidos por direitos de autor.
Os termos e condições do Midjourney avisam agora os utilizadores de que, se utilizarem a plataforma para produzir material que infrinja os direitos de autor, poderão ser banidos e enfrentar uma ação judicial. Southen foi posteriormente banido quando chamou a atenção para o problema de plágio do Midjourney v6.
Se intencionalmente pedisse ao Midjourney ou ao DALL-E para criar uma imagem com uma personagem da Disney, provavelmente não ficaria surpreendido se um advogado da Disney lhe telefonasse. Marcus e Southen referiram que existe um risco mais subtil na utilização destas ferramentas.
Descobriram que mesmo as solicitações genéricas devolviam frequentemente material protegido por direitos de autor. Se um utilizador pedisse inocentemente "desenho animado popular dos anos 90 com pele amarela", obteria isto.
Eles não o admitem, mas parece que o modelo da Midjourney gostou de alguns episódios dos Simpsons.
Talvez esse prompt estivesse a forçar uma demonstração do problema. Se estivesse a utilizar a IA para escrever um livro para crianças e quisesse que o Midjourney apresentasse uma imagem de "brinquedos animados", poderia conseguir isto.
Se fosse uma das poucas pessoas que não viu o Toy Story, poderia potencialmente publicar o seu livro que agora continha imagens que quase de certeza lhe dariam origem a um processo por direitos de autor.
O DALL-E também gera uma boa coleção de personagens familiares de filmes como Monsters Inc. e Cars para a mesma pergunta simples de duas palavras. Mesmo um simples pedido de edição pode colocar um utilizador em território obscuro de violação de direitos de autor, como este utilizador publicou no X.
Verifique sempre por si próprio a propaganda da IA. Eis o meu teste rápido de um pedido razoável de um utilizador final no DALL-E 3.
Começa bem, apesar de um chapéu suspeitamente vermelho. Mas, apenas um pouco de iteração, e, de repente... sou eu, Mario!@GaryMarcus @OpenAI @Nintendo pic.twitter.com/qK23XJcsZj- NLeseul (@NLeseul) 30 de dezembro de 2023
Então, como é que se resolve isto? Marcus e Southen propõem a remoção do material de treino ofensivo, a melhoria da filtragem de mensagens e algumas outras opções. No entanto, reconhecem que criar um gerador de imagens com IA que seja realmente bom mas que não infrinja as regras legais e éticas é um desafio.
O DALL-E tem alguns filtros para tentar impedir a geração de conteúdo ilegal, mas parece muito mais fácil de contornar do que deveria. Um jailbreak simples como este não deveria funcionar.
Se os utilizadores quiserem utilizar intencionalmente estas ferramentas para criar conteúdos que violem os direitos de autor, não parece que as empresas de IA generativa o consigam impedir tão cedo. A questão mais importante é o potencial para infracções acidentais.
Se a bela fotografia a preto e branco que o DALL-E fez se assemelha muito a uma imagem protegida por direitos de autor da Getty, quem tem a responsabilidade legal? Por agora, talvez seja melhor passar qualquer imagem que planeie publicar por uma pesquisa de imagem inversa para se certificar de que não se junta à multidão de processos de direitos de autor da IA.
