Le palais de Buckingham a mis en garde contre des batailles juridiques à propos de faux livres décrivant le récent diagnostic de cancer du roi Charles.
Le roi Charles a annoncé qu'on lui avait diagnostiqué une "forme de cancer" découverte à la suite d'une intervention médicale mineure.
Nous n'en savons pas plus, mais il semble que le cancer ait été détecté à un stade précoce. Le roi Charles s'est retiré de ses fonctions publiques pendant qu'il reçoit son traitement.
Dans les jours qui ont suivi cette annonce, plusieurs livres générés par l'IA sont apparus sur Amazon, alléguant faussement des connaissances d'initiés sur la santé du roi Charles, y compris des détails spécifiques sur son état de santé et son traitement.
Ils ont été critiqués pour avoir diffusé de fausses informations sur la santé du roi, notamment des affirmations infondées selon lesquelles il aurait subi une intervention chirurgicale et subi les effets secondaires d'une chimiothérapie, ce qui est totalement faux.
Ces livres étaient vendus à côté de biographies royales légitimes, ce qui leur conférait une certaine crédibilité.
Dans un communiqué, le palais de Buckingham a condamné ces publications, les qualifiant d'"intrusives, insensibles et truffées d'inexactitudes", et a prévenu que son équipe juridique avait l'intention d'examiner l'affaire de près.
Le palais de Buckingham a poursuivi : "Tout titre spéculant sur le diagnostic et le traitement de Sa Majesté est indiscret, insensible et truffé d'inexactitudes. Notre équipe juridique examinera la question de près. Nous demandons à toute personne ou organisation facilitant leur vente de les retirer immédiatement".
Les initiés et les commentateurs royaux ont exprimé leur déception, reprochant à Amazon d'autoriser la vente de contenus trompeurs - un problème chronique depuis l'essor de l'IA générative.
Des outils d'IA gratuits comme ChatGPT (avec GPT-3.5 Turbo) permettent de générer des livres entiers en quelques heures, voire quelques minutes, qui peuvent être publiés sur Amazon Books sans frais initiaux.
OpenAI a étendu la sortie pour GPT-3.5 Turbo, ce qui permet de générer des milliers de mots en quelques secondes, bien qu'avec une qualité généralement faible et une mauvaise précision factuelle.
Cette situation a entraîné un afflux considérable de travaux de mauvaise qualité ou carrément incorrects sur Amazon Books. Dans certains cas, le contenu peut être illégal ou dangereux.
Par exemple, l'année dernière, Amazon livres sur la recherche de champignons tirés de recommander la consommation de champignons potentiellement mortels.
En septembre 2023, Amazon a introduit des règles plus strictes, limitant les auteurs à télécharger seulement trois titres auto-publiés par jour.
Amazon plus tard a demandé aux auteurs de déclarer si l'IA a été utilisé dans leurs œuvres, mais les divulgations volontaires n'ont jamais eu de chance d'aboutir.
Malgré les efforts d'Amazon, ce récent incident concernant la santé du roi Charles renforce les difficultés auxquelles les plateformes sont confrontées pour contrôler les contenus générés par l'IA.
