Buckingham Palace advarede om juridiske slagsmål om falske bøger, der beskriver kong Charles' nylige kræftdiagnose.
King Charles meddelte, at han var blevet diagnosticeret med en "form for kræft", som blev fundet efter et mindre medicinsk indgreb.
Vi ved ikke meget mere end det, men det virker sandsynligt, at kræften er blevet opdaget tidligt. Kong Charles har trukket sig tilbage fra offentlige pligter, mens han modtager behandling.
I dagene efter denne meddelelse dukkede der flere AI-genererede bøger op på Amazon, som fejlagtigt påstod at have insiderviden om kong Charles' helbred, herunder specifikke detaljer om hans sygdomstilstand og behandling.
De blev kritiseret for at sprede falske oplysninger om kongens helbred, herunder ubegrundede påstande om, at han skulle have gennemgået en operation og oplevet bivirkninger fra kemoterapi, hvilket er helt usandt.
Disse bøger blev solgt sammen med legitime kongelige biografier, hvilket gav en vis troværdighed.
I en erklæring fordømte Buckingham Palace disse publikationer som "påtrængende, ufølsomme og fyldt med unøjagtigheder" og advarede om, at deres juridiske team har til hensigt at granske sagen.
Buckingham Palace fortsatte: "Alle sådanne titler, der spekulerer i Hans Majestæts diagnose og behandling, er påtrængende, ufølsomme og fyldt med unøjagtigheder. Vores juridiske team vil se nærmere på sagen. Vi opfordrer alle personer eller organisationer, der faciliterer deres salg, til at trække dem tilbage med det samme."
Royale insidere og kommentatorer har udtrykt skuffelse og kritiseret Amazon for at tillade salg af vildledende indhold - et kronisk problem siden fremkomsten af generativ AI.
Gratis AI-værktøjer som ChatGPT (med GPT-3.5 Turbo) gør det muligt at generere hele bøger på timer eller endda minutter, som kan udgives via Amazon Books uden et forudgående gebyr.
OpenAI har udvidet outputtet til GPT-3.5 Turbo, hvilket gør det muligt at generere tusindvis af ord på få sekunder, omend med generelt lav kvalitet og ringe faktuel nøjagtighed.
Det har ført til en enorm tilstrømning af arbejde af dårlig kvalitet eller direkte faktuelt ukorrekt arbejde på Amazon Books. I nogle tilfælde kan indholdet være ulovligt eller farligt.
Sidste år var Amazon for eksempel Bøger om svampesøgning for at anbefale indtagelse af potentielt dødelige svampe.
I september 2023 indførte Amazon strengere regler og begrænsede forfattere til kun at uploade tre selvudgivne titler om dagen.
Amazon senere krævede, at forfatterne skulle erklære, om AI blev brugt i deres værker, men det var aldrig sandsynligt, at frivillige afsløringer ville blive en succes.
På trods af Amazons indsats forstærker den seneste hændelse med King Charles' helbred de udfordringer, som platforme står over for, når de skal kontrollere AI-genereret indhold.
