L'Open Source Initiative (OSI) ha pubblicato una bozza di definizione aggiornata di ciò che costituisce l'IA open-source e afferma che i modelli di Meta non sono idonei, nonostante le affermazioni dell'azienda.
Mark Zuckerberg ha parlato dell'impegno di Meta nei confronti di quella che, a suo dire, è l'IA open-source. Tuttavia, mentre modelli come Llama 3.1 sono meno opachi di quelli proprietari di OpenAI o Google, le discussioni all'interno della comunità OSI suggeriscono che Meta stia usando il termine in modo poco chiaro.
Ad un evento pubblico online in municipio venerdì scorso, l'OSI ha discusso i criteri che ritiene debbano essere rispettati da un modello di IA veramente open-source. L'OSI si riferisce a questi criteri come alle "4 libertà" e afferma che un'IA open-source "è un sistema di IA reso disponibile secondo termini e modalità che garantiscono le libertà di:
- Utilizzare il sistema per qualsiasi scopo e senza dover chiedere l'autorizzazione.
- Studiate il funzionamento del sistema e ispezionate i suoi componenti.
- Modificare il sistema per qualsiasi scopo, anche per cambiarne l'output.
- Condividere il sistema affinché altri possano utilizzarlo con o senza modifiche, per qualsiasi scopo".
Per poter modificare un modello di IA, il modello OSI definizione di IA aperta dice che i pesi e il codice sorgente devono essere aperti e che il set di dati di addestramento deve essere disponibile.
La licenza di Meta impone alcune restrizioni sulle modalità di utilizzo dei suoi modelli e Meta ha rifiutato di rilasciare i dati di addestramento utilizzati per la formazione dei suoi modelli. Se si accetta che l'OSI sia il custode del significato di "open-source", allora si deduce che Meta distorce la verità quando definisce i suoi modelli "aperti".
L'OSI è una società di pubblica utilità californiana che si basa sui contributi della comunità per sviluppare standard open-source. Alcuni membri di questa comunità hanno accusato Mark Zuckerberg di aver "lavato a cielo aperto" i modelli di Meta e di aver costretto il settore ad accettare la sua versione piuttosto che la definizione dell'OSI.
Il presidente dell'Open Source Group Japan, Shuji Sado, ha dichiarato: "È possibile che Zuckerberg abbia una definizione di Open Source diversa dalla nostra" e ha suggerito che la causa potrebbe essere la scarsa chiarezza del panorama legale relativo ai dati di addestramento dell'IA e al copyright.
Definizione di intelligenza artificiale open source - Aggiornamento settimanale del 23 settembre https://t.co/flbb3yGCmx
- Iniziativa Open Source @[email protected] (@OpenSourceOrg) 23 settembre 2024
Le parole sono importanti
Tutto questo potrebbe sembrare una discussione semantica ma, a seconda della definizione che l'industria dell'IA adotterà, potrebbero esserci serie conseguenze legali.
Meta ha avuto un periodo difficile che si sta muovendo per aggirare le leggi GDPR dell'UE per la sua insaziabile fame di dati sui social media degli utenti. Alcuni sostengono che la definizione poco rigorosa di "IA open-source" data da Meta sia un tentativo di aggirare nuove leggi come il GDPR. EU AI Act.
La legge prevede un'eccezione limitata per i modelli di intelligenza artificiale di uso generale (GPAIM) rilasciati sotto licenze open-source. Questi modelli sono esenti da alcuni obblighi di trasparenza, ma devono comunque fornire una sintesi dei contenuti utilizzati per addestrare il modello.
D'altra parte, la proposta SB 1047 Proposta di legge sulla sicurezza AI in California disincentiva aziende come Meta ad allineare i propri modelli alla definizione OSI. Il disegno di legge impone complessi protocolli di sicurezza per i modelli "aperti" e ritiene gli sviluppatori responsabili delle modifiche dannose e dell'uso improprio da parte di malintenzionati.
La SB 1047 definisce gli strumenti di intelligenza artificiale open-source come "modelli di intelligenza artificiale che sono resi liberamente disponibili e che possono essere liberamente modificati e ridistribuiti". Questo significa che un modello di intelligenza artificiale che può essere messo a punto da un utente è "aperto" o la definizione si applica solo se il modello soddisfa tutte le condizioni OSI?
Per il momento, la vaghezza consente a Meta di ottenere vantaggi di marketing e di negoziare una certa legislazione. A un certo punto, il settore dovrà impegnarsi per una definizione. Sarà definita da una grande azienda tecnologica come Meta o da un'organizzazione guidata dalla comunità come l'OSI?
