O problema de plágio da IA generativa representa um risco jurídico para os utilizadores

8 de janeiro de 2024

As empresas de IA estão a ser processadas por violação de direitos de autor, mas as imagens geradas por IA também representam um risco jurídico potencial para os utilizadores finais.

Num artigo publicado no Espectro do IEEENa conferência de imprensa realizada em Lisboa, o cientista cognitivo Dr. Gary Marcus e o artista concetual de cinema Reid Southen descreveram o problema crescente de plágio visual que os geradores de arte de IA têm.

Nós anteriormente relatado nas imagens que Southen e outros foram capazes de gerar usando Viagem intermédia v6. Com algumas indicações cuidadosas, as imagens geradas pareciam extremamente semelhantes a capturas de ecrã de filmes de grande sucesso protegidos por direitos de autor.

Os termos e condições do Midjourney avisam agora os utilizadores de que, se utilizarem a plataforma para produzir material que infrinja os direitos de autor, poderão ser banidos e enfrentar uma ação judicial. Southen foi posteriormente banido quando chamou a atenção para o problema de plágio do Midjourney v6.

Se intencionalmente pedisse ao Midjourney ou ao DALL-E para criar uma imagem com uma personagem da Disney, provavelmente não ficaria surpreendido se um advogado da Disney lhe telefonasse. Marcus e Southen referiram que existe um risco mais subtil na utilização destas ferramentas.

Descobriram que mesmo as solicitações genéricas devolviam frequentemente material protegido por direitos de autor. Se um utilizador pedisse inocentemente "desenho animado popular dos anos 90 com pele amarela", obteria isto.

O Midjourney v6 gera material protegido por direitos de autor a partir de um prompt genérico. Fonte: IEEE

Eles não o admitem, mas parece que o modelo da Midjourney gostou de alguns episódios dos Simpsons.

Talvez esse prompt estivesse a forçar uma demonstração do problema. Se estivesse a utilizar a IA para escrever um livro para crianças e quisesse que o Midjourney apresentasse uma imagem de "brinquedos animados", poderia conseguir isto.

Midjourney inclui personagens protegidas por direitos de autor na imagem em resposta a um pedido de "brinquedos animados". Fonte: IEEE

Se fosse uma das poucas pessoas que não viu o Toy Story, poderia potencialmente publicar o seu livro que agora continha imagens que quase de certeza lhe dariam origem a um processo por direitos de autor.

O DALL-E também gera uma boa coleção de personagens familiares de filmes como Monsters Inc. e Cars para a mesma pergunta simples de duas palavras. Mesmo um simples pedido de edição pode colocar um utilizador em território obscuro de violação de direitos de autor, como este utilizador publicou no X.

Então, como é que se resolve isto? Marcus e Southen propõem a remoção do material de treino ofensivo, a melhoria da filtragem de mensagens e algumas outras opções. No entanto, reconhecem que criar um gerador de imagens com IA que seja realmente bom mas que não infrinja as regras legais e éticas é um desafio.

O DALL-E tem alguns filtros para tentar impedir a geração de conteúdo ilegal, mas parece muito mais fácil de contornar do que deveria. Um jailbreak simples como este não deveria funcionar.

O ChatGPT gera conteúdos ilegais. Fonte: Reddit

Se os utilizadores quiserem utilizar intencionalmente estas ferramentas para criar conteúdos que violem os direitos de autor, não parece que as empresas de IA generativa o consigam impedir tão cedo. A questão mais importante é o potencial para infracções acidentais.

Se a bela fotografia a preto e branco que o DALL-E fez se assemelha muito a uma imagem protegida por direitos de autor da Getty, quem tem a responsabilidade legal? Por agora, talvez seja melhor passar qualquer imagem que planeie publicar por uma pesquisa de imagem inversa para se certificar de que não se junta à multidão de processos de direitos de autor da IA.

Junte-se ao futuro


SUBSCREVER HOJE

Claro, conciso e abrangente. Fique a par dos desenvolvimentos da IA com DailyAI

Eugene van der Watt

Eugene vem de uma formação em engenharia eletrónica e adora tudo o que é tecnologia. Quando faz uma pausa no consumo de notícias sobre IA, pode encontrá-lo à mesa de snooker.

×

PDF GRATUITO EXCLUSIVO
Fique à frente com o DailyAI

Subscreva a nossa newsletter semanal e receba acesso exclusivo ao último livro eletrónico do DailyAI: 'Mastering AI Tools: Seu guia 2024 para aumentar a produtividade'.

*Ao subscrever a nossa newsletter, aceita a nossa Política de privacidade e o nosso Termos e condições