Amazon heeft een beleidswijziging aangekondigd die auteurs verplicht om het gebruik van AI bekend te maken bij het genereren van materiaal voor e-books die op het platform worden verkocht.
Deze stap komt na aanhoudende druk van de Authors Guild en soortgelijke organisaties, die hun zorgen hebben geuit over de groeiende aanwezigheid van AI-gegenereerde inhoud.
AI-gegenereerde inhoud absorbeert inkomsten van echte auteurs en verlaagt de algehele kwaliteit van gepubliceerde inhoud.
De bijgewerkte voorwaarden van Amazon in de richtlijnen voor direct publiceren zeggen het volgende: "We eisen dat je ons informeert over AI-gegenereerde inhoud (tekst, afbeeldingen of vertalingen) wanneer je een nieuw boek publiceert of bewerkingen uitvoert en een bestaand boek opnieuw publiceert via KDP. AI-gegenereerde afbeeldingen omvatten afbeeldingen van de omslag en het binnenwerk en artwork."
De Authors Guild heeft het nieuwe beleid geprezen als een "welkome eerste stap".
A verklaring op hun website staat: "We zijn het Amazon-team dankbaar dat het rekening heeft gehouden met onze zorgen en deze belangrijke stap heeft gezet in de richting van transparantie en verantwoordelijkheid voor AI-gegenereerde inhoud" en merkt ook op dat het "zal blijven werken aan het bevorderen van vergelijkbare transparantie van andere grote platforms en uitgevers".
Door auteurs te verplichten om AI-gegenereerde content openbaar te maken, wil Amazon consumenten de kennis geven om beter geïnformeerde beslissingen te nemen.
Dit vrijwillige systeem is echter niet bijzonder robuust en er is vrijwel geen manier voor Amazon om objectief AI-gegenereerde inhoud te detecteren, omdat AI-detectoren grotendeels ter ziele zijn in het tijdperk van GPT-4 en andere complexe grote taalmodellen (LLM's).
Onderzoek heeft aangetoond dat AI-detectors zowel slecht zijn in het detecteren van door AI gegenereerd werk als vatbaar voor valse vlag echte inhoud.
Invloed op kwaliteit en originaliteit
Een van de grootste zorgen die leidde tot het nieuwe beleid van Amazon was de kwestie van kwaliteit en originaliteit van AI-gegenereerde content.
Naarmate AI-modellen geavanceerder worden, groeit de angst dat deze geautomatiseerde systemen de markt kunnen overspoelen met afgeleide werken, waardoor het onderscheidend vermogen van menselijke creativiteit kan verwateren.
Bovendien zouden zelfhulp- en non-fictieboeken die door AI zijn gegenereerd onjuiste of gevaarlijke informatie kunnen verspreiden. Amazon heeft bijvoorbeeld onlangs een boek over paddenstoelen zoeken met gevaarlijke of zelfs fatale adviezen.
De beslissing van Amazon raakt ook aan de steeds meer omstreden kwestie van intellectuele eigendomsrechten in het tijdperk van AI.
AI-algoritmes worden vaak getraind op bestaande werken waarop auteursrecht zou kunnen rusten.
De Authors Guild had eerder organiseerde een open brief, gesteund door bekende auteurs als James Patterson en Margaret Atwood, waarin techbedrijven worden opgeroepen om auteursrechtelijk beschermd materiaal niet zonder toestemming te gebruiken.
Het beleid van Amazon is positief ontvangen, maar het is de moeite waard om op te merken dat Amazon nog niet bekend heeft gemaakt welke boeken AI-gegenereerd materiaal bevatten.
De uiteindelijke impact van de beslissing van Amazon zal afhangen van hoe ver ze gaan in het identificeren en verwijderen van door AI gegenereerde boeken, met name in gevallen waarin de inhoud van uitzonderlijk lage kwaliteit is, niet origineel is of feitelijk onjuist, riskant of gevaarlijk advies bevat.
