Amazon a annoncé un changement de politique qui oblige les auteurs à divulguer l'utilisation de l'IA dans la création de matériel pour les livres électroniques vendus sur sa plateforme.
Cette décision fait suite aux pressions persistantes exercées par la Guilde des auteurs et d'autres organisations similaires, qui se sont inquiétées de la présence croissante de contenus générés par l'IA.
Le contenu généré par l'IA absorbe les revenus des auteurs authentiques tout en diminuant la qualité globale du contenu publié.
Les conditions mises à jour par Amazon dans les lignes directrices pour l'édition directe stipulent ce qui suit : "Nous vous demandons de nous informer du contenu généré par l'IA (texte, images ou traductions) lorsque vous publiez un nouveau livre ou que vous modifiez et republiez un livre existant par l'intermédiaire de KDP. Les images générées par l'IA comprennent les images et les illustrations de la couverture et de l'intérieur."
La Guilde des auteurs a salué la nouvelle politique comme un "premier pas bienvenu".
A déclaration sur leur site web Nous sommes reconnaissants à l'équipe d'Amazon d'avoir pris en compte nos préoccupations et d'avoir adopté cette mesure importante pour garantir la transparence et la responsabilité des contenus générés par l'IA", indique le communiqué, qui précise également que l'entreprise "continuera à œuvrer pour promouvoir une transparence similaire de la part d'autres grandes plateformes et éditeurs".
En obligeant les auteurs à divulguer les contenus générés par l'IA, Amazon entend donner aux consommateurs les moyens de prendre des décisions plus éclairées.
Toutefois, ce système volontaire n'est pas particulièrement robuste, et il n'y a pratiquement aucun moyen pour Amazon de détecter objectivement le contenu généré par l'IA, car les détecteurs d'IA sont pour la plupart obsolètes à l'ère du GPT-4 et d'autres grands modèles de langage complexes (LLM).
Les recherches ont montré que les détecteurs d'IA sont à la fois peu efficaces pour détecter les travaux générés par l'IA et pour détecter les travaux générés par les autres. susceptibles d'être faussement signalées un contenu authentique.
Impact sur la qualité et l'originalité
L'une des principales préoccupations à l'origine de la nouvelle politique d'Amazon est la question de la qualité et de l'originalité des contenus générés par l'IA.
À mesure que les modèles d'IA se perfectionnent, on craint de plus en plus que ces systèmes automatisés n'inondent le marché d'œuvres dérivées, ce qui risquerait de diluer le caractère distinctif de la créativité humaine.
En outre, les livres d'auto-assistance et de non-fiction générés par l'IA pourraient diffuser des informations incorrectes ou dangereuses. Par exemple, Amazon a récemment a tiré un livre sur la recherche de champignons contenant des conseils dangereux, voire mortels.
La décision d'Amazon aborde également la question de plus en plus controversée des droits de propriété intellectuelle à l'ère de l'IA.
Les algorithmes d'IA sont souvent formés sur des œuvres existantes susceptibles d'être protégées par le droit d'auteur.
La Guilde des auteurs avait précédemment a organisé une lettre ouverteLa Commission européenne a lancé un projet de loi sur les droits d'auteur, soutenu par des auteurs de renom tels que James Patterson et Margaret Atwood, qui exhorte les entreprises technologiques à ne pas utiliser de matériel protégé par des droits d'auteur sans autorisation.
La politique d'Amazon a été accueillie favorablement, mais il convient de noter qu'Amazon n'a pas encore identifié publiquement les livres contenant du matériel généré par l'IA.
L'impact final de la décision d'Amazon dépendra de la mesure dans laquelle l'entreprise identifiera et supprimera les livres générés par l'IA, en particulier lorsque le contenu est de qualité exceptionnellement faible, qu'il n'est pas original ou qu'il contient des conseils factuels incorrects, risqués ou dangereux.
