Ed Newton-Rex, ex vicepresidente del settore audio di Stability AI, ha annunciato il lancio di "Fairly Trained", un'organizzazione no-profit dedicata alla certificazione delle aziende di IA generativa per le pratiche di addestramento più eque.
L'iniziativa mira a distinguere tra le aziende che addestrano la loro IA su dati scorretti e quelle che adottano un approccio più etico concedendo licenze o creando i propri dati proprietari.
Newton-Rex ha dichiarato su X: "È difficile sapere quali aziende di IA generativa si addestrino su dati di scarto e quali adottino un approccio più etico concedendo licenze. Per questo oggi lanciamo Fairly Trained, un'organizzazione no-profit che certifica le aziende di IA generativa per le pratiche di addestramento dei dati più corrette".
È difficile capire quali aziende di IA generativa si addestrino su dati di scarto e quali adottino un approccio più etico attraverso la concessione di licenze. Per questo oggi lanciamo Fairly Trained, un'organizzazione no-profit che certifica le aziende di IA generativa per le pratiche di addestramento più corrette.
La nostra prima certificazione, chiamata...
- Ed Newton-Rex (@ednewtonrex) 17 gennaio 2024
Ciò avviene nel contesto di un'escalation di critiche al laissez-faire data scraping per l'addestramento di modelli di IA, un processo che ha fatto infuriare i detentori di copyright. Il dibattito si è acceso a gennaio, quando un elenco di 16.000 artisti è stato reso pubblico. utilizzato per l'addestramento e l'ottimizzazione di Midjourney è stato divulgato.
A seguire, aziende come Magic: The Gathering e Wacom, che si affidano alla creatività umana, sono stati ferocemente criticati per aver utilizzato immagini generate dall'intelligenza artificiale sui social media. Nel frattempo, sui social media sono emerse notizie di sostituzioni di lavoro da parte dell'IA, anche a Duolingo.
Midjourney e Stability AI, l'ex azienda di Newton-Rex, sono attualmente impegnate in una causa per copyright che si avvia verso una sentenza quest'anno. Si tratta di una delle tante denunce presentate contro aziende come OpenAI, Anthropic, Meta, Midjourney, Stability e altre.
Stability AI è stata oggetto di critiche per l'uso di milioni di immagini e file audio protetti da copyright nei suoi modelli, sollevando questioni sui limiti del "fair use", che Newton-Rex intende ora affrontare con il programma Fairly Trained.
Newton-Rex si è dimesso da Stability AI l'anno scorso, dichiarando su X: "Mi sono dimesso dal mio ruolo di guida del team Audio di Stability AI perché non sono d'accordo con l'opinione dell'azienda secondo cui l'addestramento di modelli generativi di AI su opere protette dal diritto d'autore è "fair use"".
Mi sono dimesso dal mio ruolo di responsabile del team Audio di Stability AI, perché non sono d'accordo con l'opinione dell'azienda secondo cui l'addestramento di modelli generativi di AI su opere protette da copyright è un "uso corretto".
Prima di tutto, voglio dire che ci sono molte persone a Stability che sono profondamente...
- Ed Newton-Rex (@ednewtonrex) 15 novembre 2023
Nonostante le sue dimissioni da Stability AI, Newton-Rex ha espresso ottimismo sulla possibilità di raggiungere un rapporto armonioso tra l'IA generativa e le industrie creative, che ora è stato sottolineato da Fairly Trained.
Il programma Fairly Trained
Fairly Trained" introduce la sua prima certificazione, la "Fairly Trained".Certificazione di modello autorizzato (L).'
L'obiettivo è quello di mettere in evidenza i modelli di IA che utilizzano i dati di addestramento in modo etico, garantendo che non vengano utilizzati lavori protetti da copyright senza una licenza. Questo vale per i modelli di IA in diversi campi, come la generazione di immagini e musica.
Per soddisfare i criteri, i dati di formazione devono essere o:
- Concordato contrattualmente con i detentori dei diritti.
- Con una licenza aperta appropriata.
- Nel dominio pubblico globale.
- Di proprietà dello sviluppatore del modello.
Le aziende devono controllare accuratamente lo stato dei diritti dei loro dati di formazione e devono conservare registrazioni dettagliate dei dati di formazione utilizzati. La domanda prevede una presentazione scritta dettagliata e un processo di revisione che si conclude con la certificazione e la rivalutazione annuale.
Anche se Newton-Rex ammette che questa prima certificazione non risolve tutti i problemi legati alla formazione generativa dell'intelligenza artificiale, come il dibattito tra opt-in e opt-out, si tratta di un passo avanti.
Finora il programma è stato ben accolto. Il dottor Yair Adato di BRIA AI ha espresso il suo apprezzamento, dichiarando in un post sul blogSiamo orgogliosi di sostenere la certificazione Fairly Trained. Questa iniziativa contrasta l'opacità del settore nell'acquisizione dei dati, garantendo che le aziende rispettino rigorosi standard etici."
Christopher Horton, SVP di Universal, ha dichiarato: "Accogliamo con favore il lancio della certificazione Fairly Trained per aiutare le aziende e i creatori a identificare gli strumenti di IA generativa responsabili che sono stati addestrati su materiali ottenuti legalmente ed eticamente".
Fairly Trained ha già certificato nove aziende di IA generativa per la generazione di immagini, la creazione di musica e la sintesi vocale, tra cui Beatoven.AI, Boomy, BRIA AI, Endel, LifeScore, Rightsify, Somms.ai, Soundful e Tuney.
Sarà interessante vedere quali aziende si iscriveranno al programma e quanto renderanno trasparenti i loro dati. Idealmente, il pubblico dovrebbe essere in grado di vedere i set di dati (a condizione che siano di dominio pubblico o che non siano altrimenti proprietari o protetti).
La certificazione è piuttosto complessa, in quanto i dati devono essere di "pubblico dominio a livello globale", il che potrebbe essere difficile da gestire a causa delle diverse leggi sul copyright nelle varie giurisdizioni.
Ciò che è considerato di pubblico dominio in un paese può non esserlo in un altro. Per esempio, un'opera letteraria potrebbe diventare di pubblico dominio negli Stati Uniti 70 anni dopo la morte dell'autore, ma la stessa opera potrebbe essere ancora coperta da copyright in Europa.
In ogni caso, il requisito di Fairly Trained che i dati siano "di dominio pubblico a livello globale" implica uno standard elevato.
Potrebbe essere l'anno di una maggiore responsabilità per le aziende di IA e di pratiche di dati più trasparenti?
