Amazon ha annunciato un cambiamento di politica che obbliga gli autori a dichiarare l'uso dell'IA nella generazione di materiale per gli e-book venduti sulla sua piattaforma.
Questa mossa arriva dopo le persistenti pressioni della Authors Guild e di altre organizzazioni simili, che hanno espresso preoccupazione per la crescente presenza di contenuti generati dall'intelligenza artificiale.
I contenuti generati dall'IA assorbono i ricavi degli autori veri e propri, abbassando la qualità complessiva dei contenuti pubblicati.
I termini aggiornati di Amazon nelle linee guida per la pubblicazione diretta dicono che: "Vi chiediamo di informarci dei contenuti generati dall'IA (testo, immagini o traduzioni) quando pubblicate un nuovo libro o apportate modifiche e ripubblicate un libro esistente tramite KDP. Le immagini generate dall'IA comprendono le immagini di copertina e interne e la grafica".
La Authors Guild ha lodato la nuova politica come un "primo passo positivo".
A dichiarazione sul loro sito web Siamo grati al team di Amazon per aver preso in considerazione le nostre preoccupazioni e per aver compiuto questo importante passo verso la trasparenza e la responsabilità per i contenuti generati dall'IA", si legge nella nota, che "continuerà a lavorare per promuovere una trasparenza simile da parte di altre grandi piattaforme ed editori".
Richiedendo agli autori di rivelare i contenuti generati dall'intelligenza artificiale, Amazon intende fornire ai consumatori le conoscenze necessarie per prendere decisioni più consapevoli.
Tuttavia, questo sistema volontario non è particolarmente robusto e non c'è praticamente alcun modo per Amazon di rilevare oggettivamente i contenuti generati dall'IA, poiché i rilevatori di IA sono per lo più obsoleti nell'era del GPT-4 e di altri complessi modelli linguistici di grandi dimensioni (LLM).
La ricerca ha dimostrato che i rilevatori di IA sono scarsi nell'individuare il lavoro generato dall'IA e suscettibile di essere falsamente segnalato contenuto autentico.
Impatto sulla qualità e sull'originalità
Una delle principali preoccupazioni che hanno portato alla nuova politica di Amazon è stata la questione della qualità e dell'originalità dei contenuti generati dall'IA.
Man mano che i modelli di IA diventano più avanzati, cresce il timore che questi sistemi automatizzati possano inondare il mercato di opere derivate, diluendo potenzialmente la distintività della creatività umana.
Inoltre, i libri di auto-aiuto e di saggistica generati dall'intelligenza artificiale potrebbero diffondere informazioni errate o pericolose. Ad esempio, Amazon ha recentemente un libro sul foraggiamento dei funghi contenenti consigli pericolosi o addirittura fatali.
La decisione di Amazon tocca anche la questione sempre più controversa dei diritti di proprietà intellettuale nell'era dell'IA.
Gli algoritmi di intelligenza artificiale sono spesso addestrati su opere esistenti che potrebbero essere protette da copyright.
La Authors Guild aveva precedentemente ha organizzato una lettera aperta, sostenuta da autori di alto profilo come James Patterson e Margaret Atwood, che esorta le aziende tecnologiche a non utilizzare materiale protetto da copyright senza autorizzazione.
La politica di Amazon è stata accolta positivamente, ma vale la pena notare che Amazon non ha ancora identificato pubblicamente i libri che contengono materiale generato dall'intelligenza artificiale.
L'impatto finale della decisione di Amazon dipenderà dal grado di identificazione e rimozione dei libri generati dall'intelligenza artificiale, in particolare nei casi in cui i contenuti siano di qualità eccezionalmente bassa, non originali o contengano consigli di fatto errati, rischiosi o pericolosi.
