All'inizio del mese Meta ha annunciato che avrebbe rilasciato Llama 2 e lo avrebbe reso disponibile gratuitamente in collaborazione con Microsoft, ma ora Meta ha dichiarato di voler monetizzare il suo ultimo LLM.
Llama può essere scaricato gratuitamente da Meta, Hugging Face e altre piattaforme. Il download è la parte più semplice, ma la sfida è riuscire a farlo funzionare in modo utilizzabile. È necessaria una grande potenza di calcolo per far sì che Llama 2 esprima il suo potenziale, ed è qui che entrano in gioco i servizi di cloud computing come Azure di Microsoft e AWS di Amazon.
Meta ha dichiarato di aver scelto Microsoft come partner preferenziale per il cloud computing quando ha annunciato l'uscita di Llama 2. È comprensibile che Microsoft e altri fornitori di servizi di cloud computing vogliano far pagare agli utenti l'utilizzo della loro costosa infrastruttura di cloud computing, ma anche Meta vuole una parte dell'azione.
Sebbene Llama sia tecnicamente gratuito, Meta ha dichiarato che le aziende con 700 milioni o più di utenti attivi al mese dovranno ottenere una licenza per utilizzarlo. Non è chiaro cosa comporterà esattamente la licenza, ma è certo che Meta riceverà un po' di denaro.
Durante una telefonata sugli utili trimestrali, Mark Zuckerberg ha dichiarato: "Se siete qualcuno come Microsoft, Amazon o Google, e state per rivendere i servizi, è qualcosa per cui pensiamo di dover ricevere una parte delle entrate".
Non è chiaro di quanto denaro si stia parlando, ma aspettarsi che Facebook regali Llama 2 "gratuitamente" è forse un po' ingenuo. "Non credo che si tratterà di una grande quantità di entrate nel breve termine, ma nel lungo termine, speriamo che possa essere qualcosa", ha detto Zuckerberg.
un grande giorno https://t.co/5CTqULsfuT
- Meta (@Meta) 18 luglio 2023
È davvero possibile utilizzare Llama 2 gratuitamente?
Tecnicamente potete usare Llama 2 gratuitamente, ma in pratica vi costerà un po' di soldi. A meno che l'hardware di calcolo personale non diventi molto più potente e molto più economico, l'utilizzo del cloud computing è la scelta migliore.
Uno sviluppatore ha spiegato come distribuire Llama 2 sul proprio personal computer ma i suoi risultati evidenziano il problema del tentativo di eseguire l'LLM su una macchina locale. Non ha specificato la CPU utilizzata, ma ha detto che la sua macchina aveva 20 GB di RAM. È una quantità di RAM decente, ma il caricamento del modello ha richiesto 51 secondi e quasi 4 minuti per generare una risposta di 250 token alla domanda "Qual è il significato della vita?".
Eseguendo la stessa query su Google Colab Il servizio gratuito di cloud computing ha impiegato 16 secondi per generare la stessa risposta. Colab è probabilmente la scelta migliore per eseguire Llama 2 gratuitamente, ma è limitato.
Quindi Meta sta praticamente dicendo: "Ehi, il nostro strumento è gratuito! Pagate quei ragazzi per far girare il modello sulle loro GPU e poi potranno pagarci".
Llama 2 è davvero open-source?
Oltre al fatto che Llama 2 è "libero" ma non lo è davvero, Meta è stato criticato anche per aver definito LLM "open-source". Un post sul blog di Iniziativa Open Source (OSI) ha spiegato che, affinché il software sia veramente open-source, la licenza non può limitare chi può usarlo o come può essere usato.
Sebbene i membri di OSI non stiano dicendo che Meta non dovrebbe imporre limitazioni commerciali, preferirebbero che Zuckerberg non continuasse a chiamare Llama 2 open-source quando in realtà non lo è.
Nonostante il rumore e l'incertezza sull'uso che Meta intende farne, sarà interessante vedere come le aziende utilizzeranno Llama 2 e come OpenAI e Stability AI risponderanno con le loro offerte.
