Amazon og andre onlineforhandlere bliver fortsat oversvømmet med AI-genererede bøger. Skønlitteraturen er måske acceptabel, men nogle af selvhjælps- og rådgivningsbøgerne kan endda være livsfarlige.
New York Mycological Society lagde for nylig en public service-meddelelse ud på X for at advare om de potentielle konsekvenser af formodede AI-genererede bøger om svampesøgning.
Spiselige svampe er notorisk svære at skelne fra dem, der kan gøre dig voldsomt syg eller endda slå dig ihjel. Medmindre du foretrækker at prøve dig frem, er en pålidelig guidebog uundværlig.
En hurtig søgning på Amazon efter bøger om "identifikation af spiselige svampe" giver omkring 2.000 resultater, hvoraf mange uden tvivl er skrevet af eksperter.
En række af de selvudgivne titler bærer navne på forfattere, der ikke kan findes uden for Amazon. Mange af dem er også først blevet udgivet, efter at AI-skriveværktøjer som ChatGPT kom til.
🚨: PSA-alarm!
🔗: link i bio@Amazon og andre detailforretninger er blevet oversvømmet med AI-søge- og identifikationsbøger.Køb kun bøger af kendte forfattere og skovarbejdere, det kan bogstaveligt talt betyde liv eller død. pic.twitter.com/FSqQLDhh42
- newyorkmyc (@newyorkmyc) 27. august 2023
Efter 404 medier kørte et par mistænkelige bøger gennem en AI-detektor, og det så ud til at bekræfte, at bøgerne ikke var skrevet af et menneske. Da de henvendte sig til Amazon om titlerne, blev bøgerne straks fjernet fra onlinebutikken. Du kan se et arkiv over bogens liste her.
Men mange flere bøger om svampe ligger stadig på Amazon, selv om de ser ud til at kunne være skrevet af AI. Ligesom denne af en forfatter, der hedder Valerie Graham. Hendes biografiside havde ikke noget foto, og da jeg kørte biografien gennem ZeroGPT, kom der et 89% AI-resultat.
Kilde: ZeroGPT
Jeg er ikke sikker på, at jeg ville stole på, at "Valerie" ville fortælle mig, om den svamp, jeg fandt i skoven, var sikker at spise.
AI-værktøjer som ChatGPT har sikkerhedsforanstaltninger for at undgå at udsende misinformation eller farlige råd, men når det drejer sig om de subtile forskelle mellem lækkert og dødbringende, kan man næppe stole på dens evner til at identificere svampe.
Der er ingen screeningsproces på Amazon for informationsmængden i de bøger, der sælges på markedspladsen, så vi vil sandsynligvis blive ved med at se AI-forfattede titler som disse dukke op.
Tidligere på året rapporterede vi om en AI-opskriftsplanlægger der foreslog blegemiddel som ingrediens. For to uger siden foreslog en AI-genereret artikel på MSN en fødevarebank i Ottawan som turistmål.
Det er indlysende, at man ikke bør stole på AI uden nærmere undersøgelse. Problemet er, at de fleste mennesker tror, at hvis det er offentliggjort, må det være sandt.
At besøge fødevarebanken i Ottawa kan være en undervældende ferieoplevelse, men at spise en dødbringende svamp er noget helt andet.
