Amazon hat eine Änderung seiner Richtlinien angekündigt, die Autoren dazu verpflichtet, den Einsatz von KI bei der Erstellung von Material für E-Books, die auf seiner Plattform verkauft werden, offenzulegen.
Dieser Schritt erfolgt auf anhaltenden Druck der Authors Guild und ähnlicher Organisationen, die sich besorgt über die zunehmende Präsenz von KI-generierten Inhalten geäußert haben.
KI-generierte Inhalte entziehen den echten Autoren Einnahmen, während die Qualität der veröffentlichten Inhalte insgesamt sinkt.
In den aktualisierten Bedingungen der Direktveröffentlichungsrichtlinien von Amazon heißt es: "Wir verlangen von Ihnen, dass Sie uns über KI-generierte Inhalte (Text, Bilder oder Übersetzungen) informieren, wenn Sie ein neues Buch veröffentlichen oder ein bestehendes Buch über KDP bearbeiten und neu veröffentlichen. Zu den KI-generierten Bildern gehören Cover- und Innenraumbilder sowie Artwork."
Die Authors Guild hat die neue Politik als "willkommenen ersten Schritt" gelobt.
A Erklärung auf ihrer Website Wir sind dem Amazon-Team dankbar, dass es unsere Bedenken berücksichtigt und diesen wichtigen Schritt zur Gewährleistung von Transparenz und Verantwortlichkeit für KI-generierte Inhalte unternommen hat", heißt es in der Mitteilung, die auch darauf hinweist, dass sich das Unternehmen weiterhin für ähnliche Transparenz bei anderen großen Plattformen und Verlagen einsetzen wird.
Indem Amazon von den Autoren verlangt, KI-generierte Inhalte offenzulegen, will das Unternehmen den Verbrauchern das Wissen vermitteln, um fundiertere Entscheidungen treffen zu können.
Dieses freiwillige System ist jedoch nicht besonders robust, und es gibt praktisch keine Möglichkeit für Amazon, KI-generierte Inhalte objektiv zu erkennen, da KI-Detektoren im Zeitalter von GPT-4 und anderen komplexen großen Sprachmodellen (LLMs) größtenteils überholt sind.
Untersuchungen haben gezeigt, dass KI-Detektoren sowohl bei der Erkennung von KI-generierter Arbeit als auch bei der die Gefahr der Falschkennzeichnung echter Inhalt.
Auswirkungen auf Qualität und Originalität
Eines der Hauptanliegen, das zu Amazons neuer Politik geführt hat, war die Frage der Qualität und Originalität von KI-generierten Inhalten.
Da die KI-Modelle immer fortschrittlicher werden, wächst die Befürchtung, dass diese automatisierten Systeme den Markt mit abgeleiteten Werken überschwemmen und so die Unverwechselbarkeit der menschlichen Kreativität verwässern könnten.
Außerdem könnten durch KI generierte Selbsthilfe- und Sachbücher falsche oder gefährliche Informationen verbreiten. Zum Beispiel hat Amazon kürzlich ein Buch über die Pilzsuche gezogen die gefährliche oder sogar tödliche Ratschläge enthalten.
Amazons Entscheidung berührt auch die zunehmend umstrittene Frage der geistigen Eigentumsrechte im Zeitalter der KI.
KI-Algorithmen werden oft auf bestehende Werke trainiert, die urheberrechtlich geschützt sein könnten.
Die Authors Guild hatte zuvor organisierte einen offenen Briefdie von prominenten Autoren wie James Patterson und Margaret Atwood unterstützt wird und in der Technologieunternehmen aufgefordert werden, urheberrechtlich geschütztes Material nicht ohne Genehmigung zu verwenden.
Amazons Politik wurde positiv aufgenommen, aber es ist erwähnenswert, dass Amazon noch nicht öffentlich Bücher gekennzeichnet hat, die KI-generiertes Material enthalten.
Die endgültige Auswirkung von Amazons Entscheidung wird davon abhängen, wie weit das Unternehmen bei der Identifizierung und Entfernung von KI-generierten Büchern gehen wird, insbesondere in Fällen, in denen der Inhalt außergewöhnlich minderwertig oder unoriginell ist oder sachlich falsche, riskante oder gefährliche Ratschläge enthält.
