Tidigare denna månad meddelade Meta att det släppte Llama 2 och gjorde det tillgängligt gratis i samarbete med Microsoft, men nu säger Meta att det planerar att tjäna pengar på sin senaste LLM.
Llama är tillgänglig för nedladdning gratis från Meta, Hugging Face och några andra plattformar. Att ladda ner det är dock den enkla delen, och att få det att köra på ett användbart sätt är utmaningen. Du behöver mycket datorkraft för att få Llama 2 att leverera sin potential, och det är där molntjänster som Microsofts Azure och Amazons AWS kommer in.
Meta sa att det samarbetade med Microsoft som sin föredragna cloud computing-partner när det tillkännagav lanseringen av Llama 2. Det är förståeligt att Microsoft och andra leverantörer av molntjänster vill ta betalt av användarna för att använda deras dyra infrastruktur för molntjänster, men Meta vill också ha en del av kakan.
Medan Llama är tekniskt gratis har Meta sagt att företag med 700 miljoner eller fler aktiva användare per månad måste skaffa en licens för att använda den. Exakt vad licensen kommer att innebära är inte klart men det kommer att innebära att vissa kontanter flyter Metas väg.
Under ett kvartalsinkomstsamtal sa Mark Zuckerberg "Om du är någon som Microsoft, Amazon eller Google, och du i princip kommer att sälja tjänsterna vidare, är det något som vi tycker att vi borde få en del av intäkterna för."
Hur mycket pengar det rör sig om är oklart, men att förvänta sig att Facebook ska ge bort Llama 2 "gratis" är kanske lite naivt. "Jag tror inte att det kommer att bli en stor summa intäkter på kort sikt, men på lång sikt kan det förhoppningsvis bli något", sa Zuckerberg.
en stor dag https://t.co/5CTqULsfuT
- Meta (@Meta) 18 juli 2023
Kan du verkligen använda Llama 2 gratis?
Tekniskt sett kan du använda Llama 2 gratis, men i praktiken kommer det att kosta dig lite pengar att göra det. Om inte personlig datorhårdvara blir mycket kraftfullare och mycket billigare är det verkligen ditt bästa alternativ att använda molntjänster.
En utvecklare förklarade hur man distribuerar Llama 2 på din persondator men hans resultat belyser problemet med att försöka köra LLM på en lokal maskin. Han angav inte vilken CPU han använde men sa att hans maskin hade 20 GB RAM. Det är en anständig mängd RAM, men det tog 51 sekunder att ladda modellen och det tog nästan 4 minuter att generera ett 250-tokens svar på frågan "Vad är meningen med livet?".
Att köra samma fråga på Googles Colab gratis cloud computing-tjänst tog 16 sekunder att generera samma svar. Colab är förmodligen ditt bästa alternativ för att köra Llama 2 gratis men det är begränsat.
Så Meta säger i princip: "Hej, vårt verktyg är gratis! Betala dessa killar för att köra modellen på sina GPU: er och sedan kan de betala oss.
Är Llama 2 verkligen öppen källkod?
Förutom att Llama 2 är "gratis" men inte riktigt, fick Meta också kritik för att hänvisa till LLM som "öppen källkod". Ett blogginlägg på Initiativ för öppen källkod (OSI) förklaras att för att en programvara verkligen ska vara öppen källkod får licensen inte begränsa vem som kan använda den eller hur programvaran kan användas.
Medan folket på OSI inte säger att Meta inte borde införa kommersiella begränsningar, skulle de bara hellre vilja att Zuckerberg inte fortsatte att kalla Llama 2 öppen källkod när det inte riktigt är det.
Trots bruset och osäkerheten om hur Meta planerar att använda det, blir det intressant att se hur företag kommer att använda Llama 2 och hur OpenAI och Stability AI svarar med sina erbjudanden.
