Amazon har kunngjort en endring i sine retningslinjer som pålegger forfattere å opplyse om bruk av kunstig intelligens i produksjonen av materiale til e-bøker som selges på plattformen.
Dette grepet kommer etter vedvarende press fra Authors Guild og lignende organisasjoner, som har uttrykt bekymring over den økende tilstedeværelsen av AI-generert innhold.
AI-generert innhold tar inntekter fra ekte forfattere, samtidig som det senker den generelle kvaliteten på det publiserte innholdet.
I Amazons oppdaterte vilkår i retningslinjene for direktepublisering står det "Vi krever at du informerer oss om AI-generert innhold (tekst, bilder eller oversettelser) når du publiserer en ny bok eller redigerer og publiserer en eksisterende bok på nytt gjennom KDP. AI-genererte bilder inkluderer omslagsbilder, interiørbilder og kunstverk."
Forfatterforeningen har hyllet de nye retningslinjene som et "kjærkomment første skritt".
A uttalelse på deres hjemmeside "Vi er takknemlige overfor Amazon-teamet for at de har tatt hensyn til våre bekymringer og tatt dette viktige skrittet mot å sikre åpenhet og ansvarlighet for AI-generert innhold", heter det, og de skriver også at de vil "fortsette å jobbe for å fremme lignende åpenhet fra andre store plattformer og utgivere".
Ved å kreve at forfattere oppgir AI-generert innhold, ønsker Amazon å gi forbrukerne kunnskap som gjør dem i stand til å ta mer informerte beslutninger.
Dette frivillige systemet er imidlertid ikke spesielt robust, og det finnes praktisk talt ingen måte for Amazon å objektivt oppdage AI-generert innhold på, ettersom AI-detektorer stort sett har gått ut på dato i en tid med GPT-4 og andre komplekse store språkmodeller (LLM-er).
Forskning har vist at AI-detektorer både er dårlige til å oppdage AI-generert arbeid og ansvarlig for falsk flagg ekte innhold.
Innvirkning på kvalitet og originalitet
En av de største bekymringene som har ført til Amazons nye policy, har vært spørsmålet om kvalitet og originalitet i AI-generert innhold.
Etter hvert som AI-modellene blir mer avanserte, er det en økende frykt for at disse automatiserte systemene kan oversvømme markedet med avledede verk, noe som potensielt kan utvanne den menneskelige kreativitetens særpreg.
I tillegg kan AI-genererte selvhjelpsbøker og fagbøker spre feil eller farlig informasjon. For eksempel har Amazon nylig hentet en soppbok som inneholder farlige eller til og med dødelige råd.
Amazons beslutning berører også det stadig mer omstridte spørsmålet om immaterielle rettigheter i en tid med kunstig intelligens.
AI-algoritmer trenes ofte opp på eksisterende verk som kan være opphavsrettslig beskyttet.
Forfatterforeningen hadde tidligere organiserte et åpent brev, støttet av profilerte forfattere som James Patterson og Margaret Atwood, og oppfordret teknologiselskaper til ikke å bruke opphavsrettsbeskyttet materiale uten tillatelse.
Amazons policy har blitt positivt mottatt, men det er verdt å merke seg at Amazon ennå ikke har offentliggjort hvilke bøker som inneholder AI-generert materiale.
Den endelige effekten av Amazons beslutning vil avhenge av hvor langt de går i å identifisere og fjerne AI-genererte bøker, særlig i tilfeller der innholdet er av svært lav kvalitet, uoriginalt eller inneholder faktafeil, risikofylte eller farlige råd.
