Le aziende produttrici di IA sono state citate in giudizio per violazione del copyright, ma le immagini generate dall'IA presentano anche un potenziale rischio legale per gli utenti finali.
In un documento pubblicato su IEEE Spectrum, il dottor Gary Marcus, scienziato cognitivo, e Reid Southen, artista di concept cinematografici, hanno illustrato il crescente problema del plagio visivo da parte dei generatori di arte artificiale.
Noi precedentemente segnalato sulle immagini che Southen e altri sono stati in grado di generare utilizzando Viaggio intermedio v6. Con un'attenta richiesta, le immagini generate erano estremamente simili a schermate di film di successo protetti da copyright.
Le condizioni di utilizzo di Midjourney avvertono ora gli utenti che se utilizzano la piattaforma per produrre materiale che viola il diritto d'autore, potrebbero essere banditi e incorrere in azioni legali. Southen è stato successivamente bannato quando ha evidenziato il problema di plagio di Midjourney v6.
Se avete intenzionalmente chiesto a Midjourney o DALL-E di creare un'immagine con un personaggio Disney, probabilmente non sareste sorpresi se un avvocato Disney vi chiamasse. Marcus e Southen hanno sottolineato che l'uso di questi strumenti comporta un rischio più sottile.
Hanno scoperto che anche le richieste generiche spesso restituivano materiale protetto da copyright. Se un utente chiedeva innocentemente "popolare cartone animato degli anni '90 con la pelle gialla" avrebbe ottenuto questo.
Non lo ammetteranno mai, ma sembra che al modello di Midjourney siano piaciuti alcuni episodi dei Simpson.
Forse quella richiesta stava forzando una dimostrazione del problema. Se si utilizza l'intelligenza artificiale per scrivere un libro per bambini e si desidera che Midjourney fornisca un'immagine di "giocattoli animati", si potrebbe ottenere questo risultato.
Se foste tra le poche persone che non hanno visto Toy Story, potreste potenzialmente pubblicare il vostro libro che ora contiene immagini che quasi certamente vi farebbero guadagnare una causa per copyright.
DALL-E genera anche una simpatica collezione di personaggi familiari di film come Monsters Inc. e Cars con la stessa semplice richiesta di due parole. Anche una semplice richiesta di modifica potrebbe portare un utente in un territorio torbido di violazione del copyright, come questo utente ha postato su X.
Verificate sempre di persona l'hype dell'IA. Quindi, ecco il mio rapido test di una richiesta ragionevole dell'utente finale su DALL-E 3.
Inizia bene, nonostante un cappello sospettosamente rosso. Ma basta un po' di iterazione e improvvisamente... sono io, Mario!@GaryMarcus @OpenAI @Nintendo pic.twitter.com/qK23XJcsZj- NLeseul (@NLeseul) 30 dicembre 2023
Come possiamo risolvere questo problema? Marcus e Southen propongono di rimuovere il materiale di addestramento incriminato, di migliorare il filtraggio delle richieste e altre opzioni. Tuttavia, riconoscono che la realizzazione di un generatore di immagini IA che sia veramente buono e non infranga le regole legali ed etiche è una sfida.
DALL-E ha alcuni filtri per cercare di impedire la generazione di contenuti illegali, ma sembra molto più facile da aggirare di quanto dovrebbe. I jailbreak semplici e immediati come questo non dovrebbero funzionare.
Se gli utenti vogliono usare intenzionalmente questi strumenti per creare contenuti che violano il copyright, non sembra che le aziende di IA generativa saranno in grado di impedirlo presto. Il problema più grande è la possibilità di violazioni accidentali.
Se la vostra bella foto in bianco e nero fatta da DALL-E assomiglia molto a un'immagine Getty protetta da copyright, chi è il responsabile legale? Per il momento, sarebbe meglio sottoporre qualsiasi immagine che si intende pubblicare a una ricerca inversa per assicurarsi di non entrare nella mischia delle cause legali sul copyright dell'IA.
