Buckingham Palace waarschuwde voor juridische gevechten over nepboeken die de recente diagnose van kanker van koning Charles beschrijven.
King Charles kondigde aan dat bij hem een 'vorm van kanker' was geconstateerd na een kleine medische ingreep.
We weten niet veel meer dan dat, maar het lijkt waarschijnlijk dat de kanker in een vroeg stadium is ontdekt. Koning Karel heeft zich teruggetrokken van publieke taken terwijl hij wordt behandeld.
In de dagen na deze aankondiging verschenen er verschillende door AI gegenereerde boeken op Amazon, waarin valselijk werd beweerd dat er voorkennis was over de gezondheid van Koning Karel, inclusief specifieke details over zijn medische toestand en behandeling.
Ze werden bekritiseerd voor het verspreiden van valse informatie over de gezondheid van de koning, waaronder ongefundeerde beweringen dat hij een operatie onderging en bijwerkingen van chemotherapie ondervond, wat volledig onwaar is.
Deze boeken werden verkocht naast legitieme koninklijke biografieën, waardoor ze een zekere geloofwaardigheid kregen.
In een verklaring veroordeelde Buckingham Palace deze publicaties als "opdringerig, ongevoelig en vol onnauwkeurigheden" en waarschuwde dat hun juridische team van plan is de zaak nauwkeurig te onderzoeken.
Buckingham Palace vervolgde: "Dergelijke titels waarin gespeculeerd wordt over de diagnose en behandeling van Zijne Majesteit zijn opdringerig, ongevoelig en staan vol onjuistheden. Ons juridisch team zal de kwestie nauwlettend in de gaten houden. We roepen alle individuen of organisaties die de verkoop ervan faciliteren op om ze onmiddellijk terug te trekken."
Koninklijke insiders en commentatoren hebben hun teleurstelling geuit over het feit dat Amazon de verkoop van misleidende inhoud toestaat - een chronisch probleem sinds de opkomst van generatieve AI.
Gratis AI-tools zoals ChatGPT (met GPT-3.5 Turbo) maken het mogelijk om hele boeken te genereren in uren of zelfs minuten, die kunnen worden gepubliceerd via Amazon Books zonder kosten vooraf.
OpenAI heeft de uitvoer voor GPT-3.5 Turbo uitgebreid, waardoor het mogelijk is om duizenden woorden in seconden te genereren, zij het met een over het algemeen lage kwaliteit en een slechte feitelijke nauwkeurigheid.
Dit heeft geleid tot een enorme toestroom van werk van slechte kwaliteit of ronduit feitelijk onjuist op Amazon Books. In sommige gevallen kan de inhoud illegaal of gevaarlijk zijn.
Vorig jaar heeft Amazon bijvoorbeeld getrokken paddenstoelen boeken voor het aanbevelen van de consumptie van potentieel dodelijke schimmels.
In september 2023 voerde Amazon strengere regels in, waardoor auteurs alleen nog maar drie zelfgepubliceerde titels per dag.
Amazon later vroegen auteurs om aan te geven of AI werd gebruikt in hun werken, maar vrijwillige onthullingen zouden waarschijnlijk nooit succesvol zijn.
Ondanks de inspanningen van Amazon, versterkt dit recente incident met de gezondheid van King Charles de uitdagingen waar platforms voor staan bij het controleren van AI-gegenereerde inhoud.
