Amazon och andra online-återförsäljare fortsätter att översvämmas av AI-genererade böcker. Skönlitteraturen kan vara acceptabel, men vissa av självhjälps- och rådgivningsböckerna kan till och med vara dödliga.
New York Mycological Society publicerade nyligen ett public service-meddelande på X för att varna för de potentiella konsekvenserna av misstänkta AI-genererade böcker om svampsökning.
Ätliga svampar är notoriskt svåra att skilja från dem som kan göra dig våldsamt sjuk eller till och med döda dig. Om du inte föredrar försök och misstag är en pålitlig guidebok viktig.
En snabb sökning på Amazon efter böcker om "ätbar svampidentifiering" ger cirka 2.000 resultat, varav många utan tvekan är skrivna av experter.
Ett antal av de egenutgivna titlarna bär namn på författare som inte går att hitta utanför Amazon. Många av dessa har också publicerats först efter att AI-skrivverktyg som ChatGPT kom till.
🚨: PSA-varning!
🔗: länk i bio@Amazon och andra detaljhandelsbutiker har översvämmats av AI-foder- och identifieringsböcker.Köp bara böcker av kända författare och skogsmästare, det kan bokstavligen betyda liv eller död. pic.twitter.com/FSqQLDhh42
- newyorkmyc (@newyorkmyc) 27 augusti 2023
Efter 404 Medier körde några misstänkta böcker genom en AI-detektor som tycktes bekräfta att böckerna inte var författade av en människa. När de kontaktade Amazon om titlarna drogs böckerna omedelbart tillbaka från dess onlinebutik. Du kan se ett arkiv av bokens listning här.
Men många fler böcker om svampar finns kvar på Amazon trots att de verkar som om de kunde vara skrivna av AI. Liksom den här av en författare som heter Valerie Graham. Hennes biografisida hade inget foto och att köra biografen genom ZeroGPT kom upp med ett 89% AI-resultat.
Källa: ZeroGPT
Jag är inte säker på att jag skulle lita på att "Valerie" skulle berätta för mig om svampen jag hittade i skogen var säker att äta.
AI-verktyg som ChatGPT har skyddsräcken för att undvika att ge ut desinformation eller farliga råd, men när det gäller de subtila skillnaderna mellan utsökt och dödligt skulle du knappast lita på dess svampidentifieringskunskaper.
Det finns ingen screeningprocess på Amazon för den stora mängden information i de böcker som säljs på dess marknadsplats, så vi kommer sannolikt att fortsätta se AI-författade titlar som dessa dyka upp.
Tidigare i år rapporterade vi om en AI receptplanerare som föreslog blekmedel som en ingrediens. För två veckor sedan föreslog en AI-genererad artikel på MSN en matbank i Ottawan som turistmål.
Det är uppenbart att man inte ska lita på AI utan någon som helst granskning. Problemet är att de flesta människor tror att om det är publicerat måste det vara sant.
Att besöka matbanken i Ottawa kan vara en underväldigande semesterupplevelse, men att äta en dödlig svamp är ett helt annat perspektiv.
