Tidligere på måneden meddelte Meta, at de udgav Llama 2 og gjorde den gratis tilgængelig i samarbejde med Microsoft, men nu siger Meta, at de har planer om at tjene penge på deres seneste LLM.
Llama kan downloades gratis fra Meta, Hugging Face og et par andre platforme. At downloade det er dog den nemme del, og at få det til at køre på en brugbar måde er udfordringen. Du har brug for en masse computerkraft for at få Llama 2 til at leve op til sit potentiale, og det er her, cloud computing-tjenester som Microsofts Azure og Amazons AWS kommer ind i billedet.
Meta sagde, at de samarbejdede med Microsoft som deres foretrukne cloud computing-partner, da de... annoncerede udgivelsen af Llama 2. Det er forståeligt, at Microsoft og andre udbydere af cloud computing-tjenester vil opkræve betaling for at bruge deres dyre cloud computing-infrastruktur, men Meta vil også have en bid af kagen.
Selv om Llama teknisk set er gratis, har Meta sagt, at virksomheder med 700 millioner eller flere aktive brugere om måneden skal have en licens for at bruge det. Præcis hvad licensen vil indebære, er ikke klart, men det vil indebære nogle penge, der flyder Metas vej.
Under et kvartalsvist indtjeningsopkald sagde Mark Zuckerberg: "Hvis du er en person som Microsoft, Amazon eller Google, og du dybest set vil videresælge tjenesterne, er det noget, vi synes, vi skal have en del af indtægterne for."
Hvor mange penge, der er tale om, er uklart, men at forvente, at Facebook vil give Llama 2 væk "gratis", er måske lidt naivt. "Jeg tror ikke, at det bliver en stor indtægt på kort sigt, men på lang sigt kan det forhåbentlig blive til noget," sagde Zuckerberg.
En stor dag https://t.co/5CTqULsfuT
- Meta (@Meta) 18. juli 2023
Kan du virkelig bruge Llama 2 gratis?
Teknisk set kan du bruge Llama 2 gratis, men i praksis kommer det til at koste dig nogle penge at gøre det. Medmindre personlig computerhardware bliver meget mere kraftfuld og meget billigere, er cloud computing virkelig din bedste mulighed.
En udvikler forklarede Sådan implementerer du Llama 2 på din personlige computer men hans resultater fremhæver problemet med at forsøge at køre LLM på en lokal maskine. Han angav ikke, hvilken CPU han brugte, men sagde, at hans maskine havde 20 GB RAM. Det er en anstændig mængde RAM, men det tog 51 sekunder at indlæse modellen, og det tog næsten 4 minutter at generere et svar på 250 symboler på spørgsmålet "Hvad er meningen med livet?".
At køre den samme forespørgsel på Googles Colab gratis cloud computing-tjeneste tog 16 sekunder at generere det samme svar. Colab er nok dit bedste bud på at køre Llama 2 gratis, men det er begrænset.
Så Meta siger dybest set: "Hej, vores værktøj er gratis! Betal dem for at køre modellen på deres GPU'er, og så kan de betale os".
Er Llama 2 virkelig open source?
Udover at Llama 2 er "gratis", men ikke rigtig, blev Meta også kritiseret for at omtale LLM som værende "open source". Et blogindlæg på Open Source-initiativ (OSI) forklarer, at hvis software skal være ægte open source, må licensen ikke begrænse, hvem der kan bruge den, eller hvordan den kan bruges.
Mens folkene hos OSI ikke siger, at Meta ikke bør indføre kommercielle begrænsninger, ville de bare foretrække, at Zuckerberg ikke blev ved med at kalde Llama 2 for open source, når det ikke rigtig er det.
På trods af støjen og usikkerheden om, hvordan Meta planlægger at bruge det, bliver det interessant at se, hvordan virksomheder vil bruge Llama 2, og hvordan OpenAI og Stability AI reagerer med deres tilbud.
