A Amazon anunciou uma mudança de política que obriga os autores a revelar a utilização de IA na produção de material para os livros electrónicos vendidos na sua plataforma.
Esta medida surge após a pressão persistente da Authors Guild e de organizações semelhantes, que manifestaram a sua preocupação com a presença crescente de conteúdos gerados por IA.
Os conteúdos gerados por IA absorvem as receitas dos autores genuínos, ao mesmo tempo que diminuem a qualidade geral dos conteúdos publicados.
Os termos actualizados da Amazon nas directrizes de publicação direta dizem: "Exigimos que nos informe do conteúdo gerado por IA (texto, imagens ou traduções) quando publica um novo livro ou faz edições e republica um livro existente através do KDP. As imagens geradas por IA incluem imagens da capa e do interior e trabalhos artísticos."
A Authors Guild elogiou a nova política como um "primeiro passo bem-vindo".
A declaração no seu sítio Web diz: "Estamos gratos à equipa da Amazon por ter tido em conta as nossas preocupações e por ter dado este passo importante para garantir a transparência e a responsabilização pelo conteúdo gerado por IA", e também observa que "continuará a trabalhar para promover uma transparência semelhante por parte de outras grandes plataformas e editores".
Ao exigir que os autores revelem os conteúdos gerados por IA, a Amazon pretende dar aos consumidores os conhecimentos necessários para tomarem decisões mais informadas.
No entanto, este sistema voluntário não é particularmente robusto e não existe praticamente nenhuma forma de a Amazon detetar objetivamente conteúdos gerados por IA, uma vez que os detectores de IA estão praticamente extintos na era do GPT-4 e de outros modelos complexos de linguagem de grande dimensão (LLM).
A investigação demonstrou que os detectores de IA são fracos na deteção de trabalhos gerados por IA e suscetível de assinalar falsamente conteúdo genuíno.
Impacto na qualidade e originalidade
Uma das principais preocupações que levaram à nova política da Amazon foi a questão da qualidade e da originalidade dos conteúdos gerados por IA.
À medida que os modelos de IA se tornam mais avançados, há um receio crescente de que estes sistemas automatizados possam inundar o mercado com obras derivadas, diluindo potencialmente o carácter distintivo da criatividade humana.
Além disso, os livros de autoajuda e de não-ficção gerados pela IA podem fazer circular informações incorrectas ou perigosas. Por exemplo, a Amazon recentemente arranjou um livro de recolha de cogumelos contendo conselhos perigosos ou mesmo fatais.
A decisão da Amazon também aborda a questão cada vez mais controversa dos direitos de propriedade intelectual na era da IA.
Os algoritmos de IA são frequentemente treinados em obras existentes que podem estar protegidas por direitos de autor.
A Authors Guild já tinha organizou uma carta abertaA Comissão Europeia lançou uma campanha de sensibilização para os direitos de autor, apoiada por autores de renome como James Patterson e Margaret Atwood, que insta as empresas tecnológicas a não utilizarem material protegido por direitos de autor sem autorização.
A política da Amazon foi recebida de forma positiva, mas é de notar que a Amazon ainda não identificou publicamente os livros que contêm material gerado por IA.
O impacto final da decisão da Amazon dependerá do grau de identificação e remoção dos livros gerados por IA, especialmente nos casos em que o conteúdo é de qualidade excecionalmente baixa, não é original ou contém conselhos factualmente incorrectos, arriscados ou perigosos.
