Buckingham Palace advarte om juridiske kamper om falske bøker som beskriver kong Karls nylige kreftdiagnose.
King Charles kunngjorde at han hadde fått diagnosen "en form for kreft" etter et mindre medisinsk inngrep.
Vi vet ikke så mye mer enn det, men det virker sannsynlig at kreften ble oppdaget på et tidlig stadium. Kong Charles har trukket seg tilbake fra offentlige plikter mens han mottar behandling.
I dagene etter denne kunngjøringen dukket det opp flere AI-genererte bøker på Amazon, som feilaktig hevdet å ha innsidekunnskap om kong Karls helse, inkludert spesifikke detaljer om hans medisinske tilstand og behandling.
De ble kritisert for å spre falsk informasjon om kongens helse, blant annet ubegrunnede påstander om at han gjennomgikk en operasjon og opplevde bivirkninger av cellegiftbehandling, noe som er helt usant.
Disse bøkene ble solgt ved siden av ekte kongebiografier, noe som ga dem en viss troverdighet.
I en uttalelse fordømte Buckingham Palace disse publikasjonene som "påtrengende, ufølsomme og fulle av unøyaktigheter" og advarte om at deres juridiske team har til hensikt å granske saken nøye.
Buckingham Palace fortsatte: "Alle slike titler som spekulerer i Hans Majestets diagnose og behandling er påtrengende, ufølsomme og fulle av unøyaktigheter. Vårt juridiske team vil se nærmere på saken. Vi oppfordrer alle enkeltpersoner eller organisasjoner som legger til rette for salg av slike titler, til å trekke dem tilbake umiddelbart."
Kongelige innsidere og kommentatorer har uttrykt skuffelse og kritisert Amazon for å tillate salg av villedende innhold - et kronisk problem siden fremveksten av generativ AI.
Gratis AI-verktøy som ChatGPT (med GPT-3.5 Turbo) gjør det mulig å generere hele bøker på timer eller til og med minutter, som kan publiseres gjennom Amazon Books uten forhåndsbetaling.
OpenAI har utvidet utdataene for GPT-3.5 Turbo, noe som gjør det mulig å generere tusenvis av ord på få sekunder, selv om kvaliteten generelt er lav og faktanøyaktigheten dårlig.
Dette har ført til en enorm tilstrømning av dårlig kvalitet eller direkte faktafeil på Amazon Books. I noen tilfeller kan innholdet være ulovlig eller farlig.
I fjor ble for eksempel Amazon bøker om soppsanking for å anbefale inntak av potensielt dødelige sopper.
I september 2023 innførte Amazon strengere regler, og begrenset forfattere til å laste opp kun tre selvpubliserte titler per dag.
Amazon senere krevde at forfatterne oppga om AI ble brukt i verkene deres, men frivillige avsløringer hadde aldri noen sjanse til å lykkes.
Til tross for Amazons innsats, forsterker den nylige hendelsen med King Charles' helse utfordringene plattformene står overfor når det gjelder å overvåke AI-generert innhold.
