Ранее в этом месяце Meta объявила о выпуске Llama 2 и ее бесплатном доступе в сотрудничестве с Microsoft, но теперь Meta заявила, что планирует монетизировать свою последнюю LLM.
Llama можно бесплатно загрузить с Meta, Hugging Face и некоторых других платформ. Скачать ее - проще простого, а вот заставить ее работать в удобном режиме - сложная задача. Чтобы Llama 2 реализовала свой потенциал, вам потребуется много вычислительной мощности, и здесь на помощь приходят облачные вычислительные сервисы, такие как Azure от Microsoft и AWS от Amazon.
Компания Meta заявила о том, что она сотрудничает с Microsoft в качестве предпочтительного партнера по облачным вычислениям, когда она объявила о выпуске Llama 2. Понятно, что Microsoft и другие поставщики услуг облачных вычислений хотят взимать плату с пользователей за использование их дорогостоящей инфраструктуры облачных вычислений, но Meta тоже хочет получить свою долю.
Хотя технически Llama бесплатна, Meta заявила, что компаниям с 700 миллионами и более активных пользователей в месяц придется получить лицензию на ее использование. Что именно подразумевается под лицензией, пока неясно, но это подразумевает поступление некоторого количества денег в пользу Meta.
Во время ежеквартального отчета о прибылях Марк Цукерберг сказал: "Если вы кто-то вроде Microsoft, Amazon или Google и собираетесь в основном перепродавать услуги, то мы считаем, что должны получать часть дохода за это".
О каких деньгах идет речь, пока неясно, но ожидать, что Facebook будет раздавать Llama 2 "бесплатно", пожалуй, несколько наивно. "Я не думаю, что в ближайшей перспективе это принесет большой доход, но в долгосрочной перспективе, надеюсь, это может стать чем-то большим", - сказал Цукерберг.
знаменательный день https://t.co/5CTqULsfuT
- Мета (@Meta) 18 июля 2023 года
Вы действительно можете использовать Llama 2 бесплатно?
Технически вы можете использовать Llama 2 бесплатно, но практически это обойдется вам недешево. Если только персональное компьютерное оборудование не станет намного мощнее и дешевле, использование облачных вычислений - лучший вариант.
Один из разработчиков объяснил как развернуть Llama 2 на вашем персональном компьютере но его результаты подчеркивают проблему, связанную с попыткой запустить LLM на локальной машине. Он не указал используемый процессор, но сказал, что его машина имеет 20 ГБ оперативной памяти. Это приличный объем оперативной памяти, но загрузка модели заняла 51 секунду, а на генерацию ответа из 250 символов на вопрос "В чем смысл жизни?" ушло почти 4 минуты.
Выполнив тот же запрос в Google Colab бесплатному сервису облачных вычислений потребовалось 16 секунд, чтобы сгенерировать такой же ответ. Colab - это, вероятно, лучший вариант для бесплатного запуска Llama 2, но он ограничен.
Так что Meta, по сути, говорит: "Эй, наш инструмент бесплатный! Заплатите этим парням, чтобы они запустили модель на своих GPU, и тогда они смогут заплатить нам".
Действительно ли Llama 2 имеет открытый исходный код?
Помимо того, что Llama 2 является "бесплатной", но не совсем, Meta также подверглась критике за то, что назвала LLM "открытым исходным кодом". Сообщение в блоге Инициатива по открытому исходному коду (OSI) объясняет, что для того, чтобы программное обеспечение было действительно открытым, лицензия не может ограничивать, кто может использовать его или как оно может быть использовано.
Хотя представители OSI не говорят, что Мета не должна накладывать коммерческие ограничения, они просто хотели бы, чтобы Цукерберг не называл Llama 2 открытым исходным кодом, хотя на самом деле это не так.
Несмотря на шум и неопределенность в отношении того, как Meta планирует его использовать, будет интересно посмотреть, как компании будут использовать Llama 2 и как OpenAI и Stability AI ответят своими предложениями.
