No início deste mês, a Meta anunciou que estava a lançar o Llama 2 e a disponibilizá-lo gratuitamente em cooperação com a Microsoft, mas agora a Meta diz que planeia rentabilizar o seu mais recente LLM.
O Llama está disponível para download gratuito no Meta, Hugging Face e em algumas outras plataformas. Descarregá-lo é a parte fácil, mas fazê-lo funcionar de uma forma utilizável é o desafio. É necessário muito poder de computação para que o Llama 2 possa concretizar o seu potencial, e é aí que entram os serviços de computação em nuvem, como o Azure da Microsoft e o AWS da Amazon.
A Meta afirmou que estava a associar-se à Microsoft como o seu parceiro preferencial de computação em nuvem quando anunciou o lançamento de Llama 2. É compreensível que a Microsoft e outros fornecedores de serviços de computação em nuvem queiram cobrar aos utilizadores pela utilização da sua dispendiosa infraestrutura de computação em nuvem, mas a Meta também quer uma parte da ação.
Embora o Llama seja tecnicamente gratuito, a Meta afirmou que as empresas com 700 milhões ou mais de utilizadores activos por mês terão de obter uma licença para o utilizar. Não se sabe exatamente o que a licença implicará, mas envolverá algum dinheiro para a Meta.
Durante uma chamada de resultados trimestrais, Mark Zuckerberg disse: "Se for alguém como a Microsoft, a Amazon ou a Google, e se for basicamente revender os serviços, achamos que devemos receber uma parte das receitas".
Não se sabe ao certo de quanto dinheiro estamos a falar, mas esperar que o Facebook dê o Llama 2 de "graça" é talvez um pouco ingénuo. "Não creio que isso represente um grande volume de receitas a curto prazo, mas a longo prazo, espero que possa ser alguma coisa", disse Zuckerberg.
um grande dia https://t.co/5CTqULsfuT
- Meta (@Meta) 18 de julho de 2023
Pode mesmo utilizar o Llama 2 gratuitamente?
Tecnicamente, pode utilizar o Llama 2 gratuitamente, mas na prática vai custar-lhe algum dinheiro. A menos que o hardware de computação pessoal se torne muito mais potente e muito mais barato, utilizar a computação em nuvem é realmente a sua melhor opção.
Um programador explicou como instalar a Llama 2 no seu computador pessoal mas seus resultados destacam o problema de tentar rodar o LLM em uma máquina local. Ele não especificou a CPU que estava a usar, mas disse que a sua máquina tinha 20GB de RAM. É uma quantidade decente de RAM, mas carregar o modelo demorou 51 segundos e levou quase 4 minutos para gerar uma resposta de 250 tokens à pergunta "Qual é o sentido da vida?".
Executar a mesma consulta no Google Colab O serviço gratuito de computação em nuvem levou 16 segundos para gerar a mesma resposta. O Colab é provavelmente a sua melhor aposta para executar o Llama 2 gratuitamente, mas é limitado.
Portanto, a Meta está basicamente a dizer: "Ei, a nossa ferramenta é gratuita! Paguem a esses tipos para correrem o modelo nas suas GPU's e depois podem pagar-nos".
O Llama 2 é realmente de código aberto?
Para além de a Llama 2 ser "gratuita" mas não o ser realmente, a Meta também foi alvo de críticas por se referir ao LLM como sendo de "código aberto". Um post no blogue Iniciativa de fonte aberta (OSI) explicou que, para que o software seja verdadeiramente de fonte aberta, a licença não pode limitar quem o pode utilizar ou como o software pode ser utilizado.
Embora o pessoal da OSI não esteja a dizer que o Meta não deve impor limitações comerciais, preferiam que Zuckerberg não continuasse a chamar ao Llama 2 código aberto, quando na verdade não o é.
Apesar do ruído e da incerteza quanto à forma como a Meta planeia utilizá-lo, será interessante ver como as empresas utilizarão o Llama 2 e como a OpenAI e a Stability AI responderão com as suas ofertas.
