A principios de este mes, Meta anunció que iba a lanzar Llama 2 y ponerlo a disposición de forma gratuita en cooperación con Microsoft, pero ahora Meta dice que planea monetizar su último LLM.
Llama se puede descargar gratuitamente desde Meta, Hugging Face y algunas otras plataformas. Sin embargo, descargarlo es la parte fácil, y conseguir que funcione de forma utilizable es el reto. Se necesita mucha potencia de cálculo para que Llama 2 desarrolle todo su potencial, y ahí es donde entran en juego servicios de computación en la nube como Azure de Microsoft y AWS de Amazon.
Meta dijo que se asociaba con Microsoft como su socio preferido de computación en nube cuando anunció el lanzamiento de Llama 2. Es comprensible que Microsoft y otros proveedores de servicios de computación en nube quieran cobrar a los usuarios por utilizar su costosa infraestructura, pero Meta también quiere sacar tajada.
Aunque Llama es técnicamente gratuito, Meta ha dicho que las empresas con 700 millones o más de usuarios activos al mes tendrán que obtener una licencia para utilizarlo. No está claro en qué consistirá exactamente la licencia, pero Meta tendrá que desembolsar algún dinero.
Durante una llamada sobre las ganancias trimestrales, Mark Zuckerberg dijo: "Si eres alguien como Microsoft, Amazon o Google, y básicamente vas a revender los servicios, eso es algo por lo que creemos que deberíamos obtener alguna parte de los ingresos."
No está claro de cuánto dinero estamos hablando, pero esperar que Facebook regale Llama 2 "gratis" es quizá un poco ingenuo. "No creo que eso vaya a suponer una gran cantidad de ingresos a corto plazo, pero a largo plazo, esperemos que pueda ser algo", dijo Zuckerberg.
un gran día https://t.co/5CTqULsfuT
- Meta (@Meta) 18 de julio de 2023
¿De verdad puedes usar Llama 2 gratis?
Técnicamente puedes usar Llama 2 gratis, pero en la práctica te va a costar algo de dinero hacerlo. A menos que el hardware informático personal sea mucho más potente y barato, la mejor opción es utilizar la computación en nube.
Un promotor explicó cómo instalar Llama 2 en su ordenador personal pero sus resultados ponen de manifiesto el problema de intentar ejecutar el LLM en una máquina local. No especificó la CPU que estaba utilizando pero dijo que su máquina tenía 20 GB de RAM. Es una cantidad decente de RAM, pero cargar el modelo le llevó 51 segundos y tardó casi 4 minutos en generar una respuesta de 250 tokens a la pregunta "¿Cuál es el sentido de la vida?".
Ejecutando la misma consulta en Google Colab servicio gratuito de computación en la nube tardó 16 segundos en generar la misma respuesta. Colab es probablemente tu mejor opción para ejecutar Llama 2 de forma gratuita, pero es limitada.
Así que Meta está diciendo básicamente: "¡Eh, nuestra herramienta es gratuita! Paga a esos tipos para que ejecuten el modelo en sus GPU y luego nos pagarán a nosotros'.
¿Es Llama 2 realmente de código abierto?
Además de que Llama 2 es "libre" pero no realmente, Meta también fue objeto de críticas por referirse al LLM como "de código abierto". Una entrada en el blog de Iniciativa de código abierto (OSI) explica que, para que un software sea realmente de código abierto, la licencia no puede limitar quién puede usarlo ni cómo puede utilizarse.
Aunque la gente de la OSI no dice que Meta no deba imponer limitaciones comerciales, preferirían que Zuckerberg no siguiera llamando a Llama 2 código abierto cuando en realidad no lo es.
A pesar del ruido y la incertidumbre de cómo Meta planea utilizarlo, será interesante ver cómo las empresas utilizarán Llama 2 y cómo OpenAI y Stability AI responden con sus ofertas.
