El Palacio de Buckingham advirtió de batallas legales sobre libros falsos que describen el reciente diagnóstico de cáncer del Rey Carlos.
El Rey Carlos anunció que se le había diagnosticado una "forma de cáncer" detectada tras un pequeño procedimiento médico.
No sabemos mucho más que eso, aunque parece probable que el cáncer se haya detectado a tiempo. El Rey Carlos se ha retirado de sus funciones públicas mientras recibe tratamiento.
En los días que siguieron a este anuncio, aparecieron en Amazon varios libros generados por IA, que alegaban falsamente tener información privilegiada sobre la salud del rey Carlos, incluidos detalles específicos sobre su estado de salud y tratamiento médico.
Se les criticó por difundir información falsa sobre la salud del Rey, incluidas afirmaciones infundadas sobre que había sido operado y sufría efectos secundarios de la quimioterapia, lo cual es completamente falso.
Estos libros se vendían junto a biografías reales legítimas, lo que añadía cierto nivel de credibilidad.
En un comunicado, el Palacio de Buckingham condenó estas publicaciones por "intrusivas, insensibles y llenas de inexactitudes" y advirtió de que su equipo jurídico tiene intención de examinar el asunto.
El Palacio de Buckingham continuó: "Cualquier título de este tipo que especule sobre el diagnóstico y el tratamiento de Su Majestad es intrusivo, insensible y está lleno de inexactitudes. Nuestro equipo jurídico estudiará detenidamente la cuestión. Pedimos a cualquier persona u organización que facilite su venta que los retire inmediatamente".
Expertos y comentaristas de la realeza han expresado su decepción, criticando a Amazon por permitir la venta de contenidos engañosos, un problema crónico desde el auge de la IA generativa.
Herramientas de IA gratuitas como ChatGPT (con GPT-3.5 Turbo) permiten generar libros enteros en horas o incluso minutos, que pueden publicarse a través de Amazon Books sin pagar nada por adelantado.
OpenAI ha ampliado la salida para GPT-3.5 Turbo, lo que permite generar miles de palabras en segundos, aunque en general con baja calidad y escasa precisión factual.
Esto ha provocado una enorme afluencia de obras de mala calidad o directamente incorrectas en Amazon Books. En algunos casos, el contenido puede ser ilegal o peligroso.
Por ejemplo, el año pasado, Amazon libros sobre la búsqueda de setas por recomendar el consumo de hongos potencialmente letales.
En septiembre de 2023, Amazon introdujo una normativa más estricta, limitando a los autores a subir sólo tres títulos autopublicados al día.
Amazon más tarde exigía a los autores que declararan si la IA en sus obras, pero las divulgaciones voluntarias nunca tuvieron éxito.
A pesar de los esfuerzos de Amazon, este reciente incidente relacionado con la salud del rey Carlos refuerza los retos a los que se enfrentan las plataformas a la hora de vigilar los contenidos generados por IA.
