Amazon har meddelat en policyförändring som innebär att författare måste uppge om de använder AI för att generera material till e-böcker som säljs på plattformen.
Detta steg kommer efter ihållande påtryckningar från Authors Guild och liknande organisationer, som har uttryckt oro över den växande förekomsten av AI-genererat innehåll.
AI-genererat innehåll absorberar intäkter från äkta författare samtidigt som det sänker den övergripande kvaliteten på publicerat innehåll.
I Amazons uppdaterade villkor i riktlinjerna för direktpublicering står följande: "Vi kräver att du informerar oss om AI-genererat innehåll (text, bilder eller översättningar) när du publicerar en ny bok eller redigerar och återpublicerar en befintlig bok via KDP. AI-genererade bilder inkluderar omslags- och interiörbilder och konstverk."
Authors Guild har lovordat den nya policyn som ett "välkommet första steg".
A uttalande på deras webbplats "Vi är tacksamma mot Amazon-teamet för att de har tagit hänsyn till våra farhågor och genomfört detta viktiga steg mot att säkerställa transparens och ansvarsskyldighet för AI-genererat innehåll", och noterar också att de kommer att "fortsätta arbeta för att främja liknande transparens från andra stora plattformar och utgivare".
Genom att kräva att författare redovisar AI-genererat innehåll vill Amazon ge konsumenterna den kunskap de behöver för att fatta mer välgrundade beslut.
Detta frivilliga system är dock inte särskilt robust, och det finns praktiskt taget inget sätt för Amazon att objektivt upptäcka AI-genererat innehåll, eftersom AI-detektorer i stort sett är överflödiga i en tid med GPT-4 och andra komplexa stora språkmodeller (LLM).
Forskning har visat att AI-detektorer är både dåliga på att upptäcka AI-genererat arbete och skyldig att falskt flagga äkta innehåll.
Påverkan på kvalitet och originalitet
En av de främsta frågorna som lett fram till Amazons nya policy har varit frågan om kvalitet och originalitet i AI-genererat innehåll.
I takt med att AI-modellerna blir allt mer avancerade växer farhågorna för att dessa automatiserade system ska översvämma marknaden med derivat, vilket skulle kunna urvattna den mänskliga kreativitetens särart.
Dessutom kan AI-genererade självhjälps- och faktaböcker sprida felaktig eller farlig information. Till exempel Amazon nyligen tog fram en bok om svampplockning som innehåller farliga eller till och med dödliga råd.
Amazons beslut berör också den alltmer omtvistade frågan om immateriella rättigheter i AI-eran.
AI-algoritmer tränas ofta på befintliga verk som kan vara upphovsrättsskyddade.
Authors Guild hade tidigare organiserade ett öppet brevsom stöddes av välkända författare som James Patterson och Margaret Atwood, uppmanar teknikföretag att inte använda upphovsrättsskyddat material utan tillstånd.
Amazons policy har fått ett positivt mottagande, men det är värt att notera att Amazon ännu inte offentligt har identifierat böcker som innehåller AI-genererat material.
Den slutliga effekten av Amazons beslut kommer att bero på hur långt de går för att identifiera och ta bort AI-genererade böcker, särskilt i de fall där innehållet är av exceptionellt låg kvalitet, inte är originellt eller innehåller faktamässigt felaktiga, riskfyllda eller farliga råd.
