O Palácio de Buckingham alertou para a possibilidade de batalhas legais devido a livros falsos que descrevem o recente diagnóstico de cancro do Rei Carlos.
O Rei Carlos anunciou que lhe tinha sido diagnosticada uma "forma de cancro" detectada após uma pequena intervenção médica.
Não sabemos muito mais do que isso, embora pareça provável que o cancro tenha sido detectado precocemente. O Rei Carlos retirou-se das funções públicas enquanto recebe tratamento.
Nos dias que se seguiram a este anúncio, apareceram na Amazon vários livros gerados por IA, alegando falsamente ter conhecimentos privilegiados sobre a saúde do Rei Carlos, incluindo pormenores específicos sobre o seu estado de saúde e tratamento.
Foram criticados por divulgarem informações falsas sobre o estado de saúde do Rei, incluindo afirmações infundadas sobre o facto de ele ter sido submetido a uma cirurgia e ter sofrido efeitos secundários da quimioterapia, o que é completamente falso.
Estes livros eram vendidos juntamente com biografias reais legítimas, o que lhes conferia algum nível de credibilidade.
Em comunicado, o Palácio de Buckingham condenou estas publicações como "intrusivas, insensíveis e cheias de imprecisões" e avisou que a sua equipa jurídica tenciona analisar o assunto.
O Palácio de Buckingham continuou: "Qualquer título que especule sobre o diagnóstico e o tratamento de Sua Majestade é intrusivo, insensível e cheio de imprecisões. A nossa equipa jurídica vai analisar a questão de perto. Apelamos a todos os indivíduos ou organizações que facilitam a sua venda para que os retirem imediatamente".
Os especialistas e comentadores reais manifestaram o seu desapontamento, criticando a Amazon por permitir a venda de conteúdos enganosos - um problema crónico desde o aparecimento da IA generativa.
Ferramentas de IA gratuitas, como o ChatGPT (com GPT-3.5 Turbo), permitem gerar livros inteiros em horas ou mesmo minutos, que podem ser publicados através da Amazon Books sem qualquer custo inicial.
A OpenAI alargou a saída para o GPT-3.5 Turbo, tornando possível gerar milhares de palavras em segundos, embora com uma qualidade geralmente baixa e pouca precisão factual.
Isto conduziu a um enorme afluxo de trabalhos de má qualidade ou completamente incorrectos em termos factuais na Amazon Books. Em alguns casos, o conteúdo pode ser ilegal ou perigoso.
Por exemplo, no ano passado, a Amazon livros de recolha de cogumelos por recomendar o consumo de fungos potencialmente letais.
Em setembro de 2023, a Amazon introduziu regulamentos mais rigorosos, limitando os autores a carregarem apenas três títulos autopublicados por dia.
Amazon mais tarde exigiu que os autores declarassem se a IA foi utilizado nas suas obras, mas as divulgações voluntárias nunca foram susceptíveis de ter êxito.
Apesar dos esforços da Amazon, este recente incidente envolvendo a saúde do Rei Carlos reforça os desafios que as plataformas enfrentam no policiamento de conteúdos gerados por IA.
