Amazon en andere online retailers blijven overspoeld worden met AI-gegenereerde boeken. De fictie is misschien redelijk, maar sommige zelfhulp- en adviesboeken kunnen zelfs dodelijk zijn.
De New York Mycological Society heeft onlangs een openbare aankondiging op X geplaatst om te waarschuwen voor de mogelijke gevolgen van vermoedelijk door AI gegenereerde boeken over het zoeken naar paddenstoelen.
Eetbare paddenstoelen zijn moeilijk te onderscheiden van paddenstoelen die je ziek kunnen maken of zelfs kunnen doden. Tenzij je de voorkeur geeft aan de trial-and-error aanpak, is een betrouwbare gids essentieel.
Een snelle zoektocht op Amazon naar boeken over "eetbare paddenstoelen herkennen" levert ongeveer 2000 resultaten op, waarvan er ongetwijfeld veel zijn geschreven door experts.
Een aantal van de zelfgepubliceerde titels dragen de naam van auteurs die buiten Amazon niet te vinden zijn. Veel van deze titels zijn ook pas gepubliceerd nadat AI-schrijftools zoals ChatGPT hun intrede deden.
🚨: PSA-alert!
🔗: link in bio@Amazon en andere winkels zijn overspoeld met boeken over AI-foerageren en -identificatie.Koop alleen boeken van bekende auteurs en foragers, het kan letterlijk leven of dood betekenen. pic.twitter.com/FSqQLDhh42
- newyorkmyc (@newyorkmyc) 27 augustus 2023
Na 404 Media een paar verdachte boeken door een AI-detector haalde, leek deze te bevestigen dat de boeken niet door een mens waren geschreven. Toen ze Amazon benaderden over de titels werden de boeken prompt uit de online winkel gehaald. Je kunt een archief van de boekenlijst hier.
Maar er staan nog veel meer boeken over paddenstoelen op Amazon, ook al lijkt het alsof ze door AI geschreven zouden kunnen zijn. Zoals deze van een auteur genaamd Valerie Graham. Haar biopagina had geen foto en de biografie door ZeroGPT halen leverde een 89% AI resultaat op.
Bron: NulGPT
Ik weet niet zeker of ik "Valerie" zou vertrouwen om me te vertellen of de paddenstoel die ik in het bos vond veilig is om te eten.
AI-tools zoals ChatGPT hebben vangrails om te voorkomen dat ze desinformatie of gevaarlijk advies geven, maar als het aankomt op het subtiele verschil tussen lekker en dodelijk, kun je nauwelijks vertrouwen op de vaardigheden van deze tool om paddenstoelen te herkennen.
Er is geen screeningproces op Amazon voor de vraatzucht van de informatie in de boeken die op de marktplaats worden verkocht, dus we zullen dit soort door AI geauteurde titels waarschijnlijk blijven zien opduiken.
Eerder dit jaar berichtten we over een AI-receptenplanner die bleekmiddel als ingrediënt suggereerde. Twee weken geleden suggereerde een AI-gegenereerd artikel op MSN een voedselbank in Ottawan als toeristische bestemming.
Het is duidelijk dat AI niet zomaar vertrouwd kan worden. Het probleem is dat de meeste mensen denken dat als het gepubliceerd is, het wel waar moet zijn.
Een bezoek aan de voedselbank in Ottawa kan een teleurstellende vakantie-ervaring zijn, maar het eten van een dodelijke paddenstoel is een heel ander vooruitzicht.
