A Amazon e outros retalhistas em linha continuam a ser inundados com livros gerados por IA. A ficção pode ser aceitável, mas alguns dos livros de autoajuda e de conselhos podem até ser mortais.
A Sociedade Micológica de Nova Iorque publicou recentemente um anúncio de serviço público no X para alertar para as potenciais consequências de livros supostamente gerados por IA sobre a procura de cogumelos.
Os cogumelos comestíveis são notoriamente difíceis de diferenciar daqueles que o podem fazer adoecer violentamente ou mesmo matar. A menos que prefira a abordagem de tentativa e erro, um guia fiável é essencial.
Uma pesquisa rápida na Amazon por livros sobre "identificação de cogumelos comestíveis" apresenta cerca de 2.000 resultados, muitos dos quais são sem dúvida escritos por especialistas.
Alguns dos títulos auto-publicados têm nomes de autores que não podem ser encontrados fora da Amazon. Muitos deles também só foram publicados depois do aparecimento de ferramentas de escrita com IA, como o ChatGPT.
🚨: Alerta PSA!
🔗: ligação na bio@Amazon e outros pontos de venda têm sido inundados com livros de identificação e de recolha de alimentos com IA.Por favor, compre apenas livros de autores e forrageadores conhecidos, pois isso pode significar literalmente a vida ou a morte. pic.twitter.com/FSqQLDhh42
- newyorkmyc (@newyorkmyc) 27 de agosto de 2023
Depois de 404 Media passou alguns livros suspeitos por um detetor de IA que pareceu confirmar que os livros não eram da autoria de um humano. Quando contactaram a Amazon sobre os títulos, os livros foram imediatamente retirados da sua loja online. Pode ver um arquivo do listagem do livro aqui.
Mas muitos mais livros sobre cogumelos continuam na Amazon, apesar de parecerem poder ser escritos por IA. Como o este de uma autora chamada Valerie Graham. A sua página biográfica não tinha fotografia e, ao passar a biografia pelo ZeroGPT, obteve-se um resultado de IA de 89%.
Fonte: ZeroGPT
Não sei se confiaria na "Valerie" para me dizer se o cogumelo que encontrei no bosque era seguro para comer.
As ferramentas de IA, como o ChatGPT, têm barreiras de proteção para evitar a produção de desinformação ou de conselhos perigosos, mas quando se trata das diferenças subtis entre delicioso e mortal, dificilmente se confiaria nas suas capacidades de identificação de cogumelos.
Não existe na Amazon um processo de seleção da voracidade da informação contida nos livros vendidos no seu mercado, pelo que é provável que continuemos a assistir ao aparecimento de títulos de autoria de IA como estes.
No início deste ano, informámos sobre um Planeador de receitas com IA que sugeria a lixívia como ingrediente. Há duas semanas, um artigo gerado por IA no MSN sugeria um banco alimentar de Otava como destino turístico.
É óbvio que não se deve confiar na IA sem qualquer escrutínio. O problema é que a maioria das pessoas acredita que, se está publicado, deve ser verdade.
Visitar o banco alimentar em Ottawa pode ser uma experiência de férias pouco animadora, mas comer um cogumelo mortal é uma perspetiva completamente diferente.
