Amazon ha anunciado un cambio de política que obliga a los autores a revelar el uso de IA en la generación de material para libros electrónicos vendidos en su plataforma.
Esta medida llega tras la persistente presión del Gremio de Autores y organizaciones similares, que han expresado su preocupación por la creciente presencia de contenidos generados por IA.
Los contenidos generados por IA absorben los ingresos de los auténticos autores, al tiempo que disminuye la calidad general de los contenidos publicados.
Los términos actualizados de Amazon en las directrices de publicación directa dicen: "Le pedimos que nos informe del contenido generado por IA (texto, imágenes o traducciones) cuando publique un nuevo libro o edite y vuelva a publicar un libro existente a través de KDP. Las imágenes generadas por IA incluyen imágenes de portada e interiores y material gráfico".
El Gremio de Autores ha elogiado la nueva política como un "primer paso bienvenido".
A declaración en su sitio web dice: "Agradecemos al equipo de Amazon que haya tenido en cuenta nuestras preocupaciones y haya promulgado este importante paso para garantizar la transparencia y la responsabilidad de los contenidos generados por IA", y también señala que "seguirá trabajando para promover una transparencia similar por parte de otras grandes plataformas y editores."
Al exigir a los autores que revelen los contenidos generados por IA, Amazon pretende dotar a los consumidores de los conocimientos necesarios para tomar decisiones más informadas.
Sin embargo, este sistema voluntario no es especialmente robusto, y prácticamente no hay forma de que Amazon detecte objetivamente los contenidos generados por IA, ya que los detectores de IA están prácticamente desaparecidos en la era de GPT-4 y otros complejos modelos de grandes lenguajes (LLM).
La investigación ha demostrado que los detectores de IA no detectan bien el trabajo generado por la IA ni susceptible de falsa bandera contenido genuino.
Impacto en la calidad y la originalidad
Una de las principales preocupaciones que han dado lugar a la nueva política de Amazon ha sido la cuestión de la calidad y la originalidad de los contenidos generados por IA.
A medida que avanzan los modelos de IA, crece el temor a que estos sistemas automatizados inunden el mercado con obras derivadas, diluyendo potencialmente el carácter distintivo de la creatividad humana.
Además, los libros de autoayuda y no ficción generados por IA podrían difundir información incorrecta o peligrosa. Por ejemplo, Amazon sacó un libro de búsqueda de setas que contienen consejos peligrosos o incluso mortales.
La decisión de Amazon también afecta a la cuestión cada vez más polémica de los derechos de propiedad intelectual en la era de la IA.
Los algoritmos de IA se entrenan a menudo con obras existentes que podrían estar protegidas por derechos de autor.
El Gremio de Autores ya había organizó una carta abiertaque cuenta con el respaldo de autores de renombre como James Patterson y Margaret Atwood, en la que se insta a las empresas tecnológicas a no utilizar material protegido por derechos de autor sin autorización.
La política de Amazon ha sido recibida positivamente, pero cabe señalar que Amazon aún no ha identificado públicamente los libros que contienen material generado por IA.
El impacto final de la decisión de Amazon dependerá de hasta dónde llegue para identificar y eliminar los libros generados por IA, sobre todo en los casos en que el contenido sea excepcionalmente de baja calidad, poco original o contenga consejos incorrectos, arriesgados o peligrosos.
