Anfang dieses Monats kündigte Meta an, dass es Llama 2 in Zusammenarbeit mit Microsoft kostenlos zur Verfügung stellen würde, aber jetzt sagt Meta, dass es plant, sein neuestes LLM zu Geld zu machen.
Llama kann kostenlos von Meta, Hugging Face und ein paar anderen Plattformen heruntergeladen werden. Das Herunterladen ist der einfache Teil, die Herausforderung besteht darin, das Programm zum Laufen zu bringen. Damit Llama 2 sein Potenzial voll ausschöpfen kann, ist eine Menge Rechenleistung erforderlich. Hier kommen Cloud-Computing-Dienste wie Microsofts Azure und Amazons AWS ins Spiel.
Meta erklärte, dass es mit Microsoft als bevorzugtem Cloud Computing-Partner zusammenarbeitet, wenn es kündigte die Veröffentlichung von Llama 2. Es ist verständlich, dass Microsoft und andere Anbieter von Cloud-Computing-Diensten den Nutzern die Nutzung ihrer teuren Cloud-Computing-Infrastruktur in Rechnung stellen wollen, aber auch Meta möchte ein Stück vom Kuchen abhaben.
Während Llama technisch gesehen kostenlos ist, hat Meta gesagt, dass Unternehmen mit 700 Millionen oder mehr aktiven Nutzern pro Monat eine Lizenz erwerben müssen, um es zu nutzen. Was genau die Lizenz beinhaltet, ist nicht klar, aber es wird etwas Geld in Metas Richtung fließen.
Während einer Telefonkonferenz zu den Quartalsergebnissen sagte Mark Zuckerberg: "Wenn Sie jemand wie Microsoft, Amazon oder Google sind und die Dienste im Grunde weiterverkaufen, dann sollten wir einen Teil der Einnahmen dafür bekommen."
Über wie viel Geld wir reden, ist unklar, aber zu erwarten, dass Facebook Llama 2 "kostenlos" abgibt, ist vielleicht etwas naiv. "Ich glaube nicht, dass das kurzfristig eine große Einnahmequelle sein wird, aber auf lange Sicht kann das hoffentlich etwas sein", sagte Zuckerberg.
ein großer Tag https://t.co/5CTqULsfuT
- Meta (@Meta) 18. Juli 2023
Kann man Llama 2 wirklich kostenlos nutzen?
Technisch gesehen können Sie Llama 2 kostenlos nutzen, aber in der Praxis wird es Sie etwas Geld kosten, dies zu tun. Solange die persönliche Computer-Hardware nicht viel leistungsfähiger und billiger wird, ist die Nutzung von Cloud Computing wirklich die beste Option.
Ein Entwickler erklärte wie man Llama 2 auf dem eigenen Computer installiert aber seine Ergebnisse verdeutlichen das Problem des Versuchs, den LLM auf einem lokalen Rechner auszuführen. Er gab nicht an, welche CPU er benutzte, aber sagte, dass sein Rechner 20 GB RAM hatte. Das ist eine ordentliche Menge an RAM, aber das Laden des Modells dauerte 51 Sekunden und es dauerte fast 4 Minuten, um eine Antwort von 250 Token auf die Frage "Was ist der Sinn des Lebens?" zu generieren.
Die gleiche Abfrage auf Google's Colab Der kostenlose Cloud-Computing-Dienst benötigte 16 Sekunden für dieselbe Antwort. Colab ist wahrscheinlich die beste Möglichkeit, Llama 2 kostenlos zu nutzen, aber sie ist begrenzt.
Meta sagt also im Grunde: "Hey, unser Tool ist kostenlos! Bezahlt diese Leute dafür, dass sie das Modell auf ihren GPUs laufen lassen, und dann können sie uns bezahlen.'
Ist Llama 2 wirklich quelloffen?
Abgesehen davon, dass Llama 2 zwar "kostenlos" ist, aber nicht wirklich, wurde Meta auch dafür kritisiert, dass es sich bei LLM um "Open-Source" handelt. Ein Blog-Eintrag auf der Open-Source-Initiative (OSI)-Website erklärt, dass eine Software nur dann wirklich quelloffen ist, wenn die Lizenz nicht einschränkt, wer sie verwenden kann oder wie sie verwendet werden kann.
Die OSI-Mitarbeiter sagen zwar nicht, dass Meta keine kommerziellen Beschränkungen auferlegen sollte, aber sie fänden es besser, wenn Zuckerberg Llama 2 nicht weiterhin als Open Source bezeichnen würde, obwohl es das in Wirklichkeit nicht ist.
Trotz des Rauschs und der Ungewissheit, wie Meta es zu nutzen gedenkt, wird es interessant sein zu sehen, wie Unternehmen Llama 2 nutzen werden und wie OpenAI und Stability AI mit ihren Angeboten reagieren.
