Amazon et d'autres détaillants en ligne continuent d'être inondés de livres générés par l'IA. Les ouvrages de fiction peuvent être passables, mais certains livres d'entraide et de conseils pourraient même être mortels.
La New York Mycological Society a récemment publié un message d'intérêt public sur X pour mettre en garde contre les conséquences potentielles des livres sur la recherche de champignons que l'on soupçonne d'être générés par l'IA.
Les champignons comestibles sont notoirement difficiles à différencier de ceux qui peuvent vous rendre violemment malade ou même vous tuer. À moins que vous ne préfériez l'approche par essais et erreurs, un guide fiable est indispensable.
Une recherche rapide sur Amazon de livres sur "l'identification des champignons comestibles" donne environ 2 000 résultats, dont beaucoup sont sans doute écrits par des experts.
Un certain nombre de titres autoédités portent des noms d'auteurs introuvables en dehors d'Amazon. Nombre d'entre eux n'ont également été publiés qu'après l'apparition d'outils d'écriture à base d'IA tels que ChatGPT.
🚨 : Alerte PSA !
🔗 : lien dans bio@Amazon et d'autres points de vente ont été inondés de livres sur la recherche et l'identification de l'IA.N'achetez que des livres d'auteurs et de fourrageurs connus, cela peut littéralement signifier la vie ou la mort. pic.twitter.com/FSqQLDhh42
- newyorkmyc (@newyorkmyc) 27 août 2023
Après 404 Médias a passé quelques livres suspects au crible d'un détecteur d'intelligence artificielle, qui a semblé confirmer que les livres n'avaient pas été écrits par un être humain. Lorsqu'ils ont contacté Amazon au sujet de ces titres, les livres ont été rapidement retirés de la boutique en ligne. Vous pouvez consulter les archives de la liste du livre ici.
Mais de nombreux autres livres sur les champignons restent sur Amazon, même s'ils semblent avoir été écrits par une IA. Comme celui d'un auteur appelé Valerie Graham. Sa page bio n'avait pas de photo et l'analyse de la bio par ZeroGPT a donné un résultat de 89% AI.
Source : ZeroGPT
Je ne suis pas sûr que je ferais confiance à "Valérie" pour me dire si le champignon que j'ai trouvé dans les bois est bon à manger.
Les outils d'IA comme ChatGPT sont dotés de garde-fous pour éviter la désinformation ou les conseils dangereux, mais lorsqu'il s'agit des différences subtiles entre le délicieux et le mortel, il est difficile de faire confiance à ses compétences en matière d'identification des champignons.
Il n'y a pas de processus de sélection sur Amazon pour la voracité des informations contenues dans les livres vendus sur sa place de marché, et il est donc probable que nous continuerons à voir apparaître des titres rédigés par l'IA comme ceux-là.
Au début de l'année, nous avons fait état d'une Planificateur de recettes AI qui proposait de l'eau de Javel comme ingrédient. Il y a deux semaines, un article généré par l'IA sur MSN proposait une banque alimentaire d'Ottawa comme destination touristique.
Il est évident qu'il ne faut pas faire confiance à l'IA sans examen approfondi. Le problème, c'est que la plupart des gens pensent que ce qui est publié est forcément vrai.
Se rendre à la banque alimentaire d'Ottawa peut être une expérience décevante pendant les vacances, mais manger un champignon mortel est une perspective tout à fait différente.
