Buckingham Palace varnade för rättsliga strider om falska böcker som beskriver kung Charles senaste cancerdiagnos.
King Charles meddelade att han hade diagnostiserats med en "form av cancer" som upptäckts efter ett mindre medicinskt ingrepp.
Vi vet inte mycket mer än så, men det verkar troligt att cancern har upptäckts i ett tidigt skede. Kung Karl har dragit sig tillbaka från offentliga uppdrag medan han får behandling.
Dagarna efter detta tillkännagivande dök det upp flera AI-genererade böcker på Amazon som falskeligen påstod sig ha insiderkunskap om kung Karls hälsa, inklusive specifika detaljer om hans medicinska tillstånd och behandling.
De kritiserades för att sprida falsk information om kungens hälsa, inklusive ogrundade påståenden om att han genomgått en operation och upplevt biverkningar av cellgiftsbehandling, vilket är helt osant.
Dessa böcker såldes tillsammans med legitima kungliga biografier, vilket gav en viss trovärdighet.
I ett uttalande fördömde Buckingham Palace dessa publikationer som "påträngande, okänsliga och fyllda med felaktigheter" och varnade för att deras juridiska team avser att granska ärendet.
Buckingham Palace fortsatte: "Alla sådana titlar som spekulerar om Hans Majestäts diagnos och behandling är påträngande, okänsliga och fyllda med felaktigheter. Vårt juridiska team kommer att titta närmare på frågan. Vi uppmanar alla individer eller organisationer som underlättar deras försäljning att omedelbart dra tillbaka dem."
Kungliga insiders och kommentatorer har uttryckt besvikelse och kritiserat Amazon för att tillåta försäljning av vilseledande innehåll - ett kroniskt problem sedan uppkomsten av generativ AI.
Gratis AI-verktyg som ChatGPT (med GPT-3.5 Turbo) gör det möjligt att generera hela böcker på timmar eller till och med minuter, som kan publiceras via Amazon Books utan en förskottsavgift.
OpenAI har utökat utdata för GPT-3.5 Turbo, vilket gör det möjligt att generera tusentals ord på några sekunder, om än med generellt låg kvalitet och dålig faktamässig noggrannhet.
Detta har lett till en enorm tillströmning av arbeten av dålig kvalitet eller rent av faktamässigt felaktiga arbeten på Amazon Books. I vissa fall kan innehållet vara olagligt eller farligt.
Till exempel, förra året, Amazon böcker om svampar och svampskörd för att ha rekommenderat konsumtion av potentiellt dödliga svampar.
I september 2023 införde Amazon strängare regler och begränsade författarna till att bara ladda upp tre egenutgivna titlar per dag.
Amazon senare krävde att författarna skulle uppge om AI användes i deras verk, men frivilliga upplysningar var aldrig troliga att lyckas.
Trots Amazons ansträngningar förstärker den senaste händelsen med King Charles hälsa de utmaningar som plattformar står inför när det gäller att kontrollera AI-genererat innehåll.
