Amazon og andre nettbutikker oversvømmes stadig av AI-genererte bøker. Skjønnlitteraturen kan være brukbar, men noen av selvhjelps- og rådgivningsbøkene kan til og med være livsfarlige.
New York Mycological Society la nylig ut en offentlig kunngjøring på X for å advare mot de potensielle konsekvensene av mistenkte AI-genererte bøker om soppsanking.
Spiselige sopper er notorisk vanskelige å skille fra de som kan gjøre deg voldsomt syk eller til og med drepe deg. Med mindre du foretrekker å prøve og feile, er en pålitelig guidebok viktig.
Et raskt søk på Amazon etter bøker om "spiselig soppidentifikasjon" gir rundt 2000 treff, og mange av dem er utvilsomt skrevet av eksperter.
En rekke av de selvpubliserte titlene bærer forfatternavn som ikke er å finne utenfor Amazon. Mange av disse har også først blitt publisert etter at AI-skrivingsverktøy som ChatGPT ble lansert.
🚨: PSA-varsel!
🔗: lenke i bio@Amazon og andre utsalgssteder har blitt oversvømmet av bøker om AI-sanking og identifikasjon.Kjøp bare bøker av kjente forfattere og sankere, det kan bokstavelig talt bety liv eller død. pic.twitter.com/FSqQLDhh42
- newyorkmyc (@newyorkmyc) 27. august 2023
Etter 404 Media kjørte noen mistenkelige bøker gjennom en AI-detektor, og den så ut til å bekrefte at bøkene ikke var forfattet av et menneske. Da de henvendte seg til Amazon om titlene, ble bøkene straks trukket fra nettbutikken. Du kan se et arkiv av bokens liste her.
Men mange flere bøker om sopp ligger fortsatt på Amazon, selv om de ser ut som om de kunne vært skrevet av AI. Som Denne er skrevet av en forfatter som heter Valerie Graham.. Biografisiden hennes hadde ikke noe bilde, og å kjøre biografien gjennom ZeroGPT kom opp med et 89% AI-resultat.
Kilde: ZeroGPT
Jeg er ikke sikker på om jeg ville stolt på at "Valerie" kunne fortelle meg om soppen jeg fant i skogen var trygg å spise.
AI-verktøy som ChatGPT har sikkerhetsmekanismer for å unngå å gi desinformasjon eller farlige råd, men når det gjelder de subtile forskjellene mellom deilig og dødelig, er det vanskelig å stole på verktøyets evner til å identifisere sopp.
Amazon har ingen screeningprosess for å sjekke hvor mye informasjon som finnes i bøkene som selges på markedsplassen, så vi vil sannsynligvis fortsette å se AI-forfattede titler som disse dukke opp.
Tidligere i år rapporterte vi om en AI-oppskriftsplanlegger som foreslo blekemiddel som ingrediens. For to uker siden foreslo en AI-generert artikkel på MSN en matbank i Ottawan som turistmål.
Det er åpenbart at man ikke bør stole på kunstig intelligens uten videre. Problemet er at folk flest tror at hvis det er publisert, må det være sant.
Å besøke matbanken i Ottawa kan være en underveldende ferieopplevelse, men å spise en dødelig sopp er en helt annen sak.
