Amazon har annonceret et politisk skifte, der pålægger forfattere at oplyse om brugen af AI til at generere materiale til e-bøger, der sælges på deres platform.
Dette skridt kommer efter vedvarende pres fra Authors Guild og lignende organisationer, som har udtrykt bekymring over den voksende tilstedeværelse af AI-genereret indhold.
AI-genereret indhold absorberer indtægter fra ægte forfattere og sænker samtidig den overordnede kvalitet af det publicerede indhold.
Amazons opdaterede vilkår i retningslinjerne for direkte udgivelse siger: "Vi kræver, at du informerer os om AI-genereret indhold (tekst, billeder eller oversættelser), når du udgiver en ny bog eller redigerer og genudgiver en eksisterende bog via KDP. AI-genererede billeder omfatter omslags- og interiørbilleder og illustrationer."
Authors Guild har rost den nye politik som et "velkomment første skridt".
A erklæring på deres hjemmeside "Vi er taknemmelige for, at Amazon-teamet har taget hensyn til vores bekymringer og taget dette vigtige skridt i retning af at sikre gennemsigtighed og ansvarlighed for AI-genereret indhold", og bemærker også, at de vil "fortsætte med at arbejde for at fremme lignende gennemsigtighed fra andre store platforme og udgivere".
Ved at kræve, at forfattere oplyser om AI-genereret indhold, vil Amazon give forbrugerne viden, så de kan træffe mere informerede beslutninger.
Dette frivillige system er dog ikke særlig robust, og der er stort set ingen måde, hvorpå Amazon objektivt kan opdage AI-genereret indhold, da AI-detektorer stort set er afgået ved døden i en tid med GPT-4 og andre komplekse store sprogmodeller (LLM'er).
Forskning har vist, at AI-detektorer både er dårlige til at opdage AI-genereret arbejde og ansvarlig for falsk flagning ægte indhold.
Indvirkning på kvalitet og originalitet
En af de primære bekymringer, der har ført til Amazons nye politik, har været spørgsmålet om kvalitet og originalitet i AI-genereret indhold.
Efterhånden som AI-modellerne bliver mere avancerede, er der en voksende frygt for, at disse automatiserede systemer kan oversvømme markedet med afledte værker og potentielt udvande den menneskelige kreativitets særpræg.
Desuden kan AI-genererede bøger om selvhjælp og faglitteratur sprede forkert eller farlig information. For eksempel har Amazon for nylig fandt en bog om svampesøgning der indeholder farlige eller endda dødelige råd.
Amazons beslutning berører også det stadig mere omstridte spørgsmål om intellektuelle ejendomsrettigheder i AI-æraen.
AI-algoritmer trænes ofte på eksisterende værker, der kan være ophavsretligt beskyttet.
Forfatterforeningen havde tidligere organiserede et åbent brevsom er støttet af højt profilerede forfattere som James Patterson og Margaret Atwood, og som opfordrer teknologivirksomheder til ikke at bruge ophavsretligt beskyttet materiale uden tilladelse.
Amazons politik er blevet modtaget positivt, men det er værd at bemærke, at Amazon endnu ikke offentligt har identificeret bøger, der indeholder AI-genereret materiale.
Den endelige effekt af Amazons beslutning vil afhænge af, hvor langt de går for at identificere og fjerne AI-genererede bøger, især i tilfælde, hvor indholdet er af usædvanlig lav kvalitet, uoriginalt eller indeholder faktuelt forkerte, risikable eller farlige råd.
