OpenAI сотрудничает с компанией Scale, чтобы обеспечить настройку модели OpenAI GPT-3.5 Turbo, которая недавно стала доступна для тонкой настройки.
Scale помогает компаниям создавать индивидуальные продукты искусственного интеллекта, уделяя особое внимание машинному обучению, созданию наборов данных и маркировке.
Производительность, которую доработанная версия GPT-3.5 Turbo Это делает его привлекательным для компаний, желающих создать собственные платформы искусственного интеллекта. Однако процесс тонкой настройки может оказаться непростым.
Именно поэтому OpenAI заявляет, что сотрудничает с Scale, "учитывая их опыт, помогающий предприятиям безопасно и эффективно использовать данные для ИИ".
Главный операционный директор OpenAI Брэд Лайткэп (Brad Lightcap) сказал: "Масштаб расширяет наши возможности по предоставлению возможностей тонкой настройки большему числу компаний, опираясь на опыт корпоративного ИИ, чтобы помочь предприятиям лучше применять модели OpenAI для своих уникальных нужд".
Мы сотрудничаем с @scale_AI для обеспечения поддержки предприятий, настраивающих GPT-3.5 на своих собственных данных. https://t.co/JAr8u2qXlx
- OpenAI (@OpenAI) 24 августа 2023 года
Scale проиллюстрировал возможности, которые дает тонкая настройка GPT-3.5, на примере результатов, достигнутых компанией с одним из своих клиентов в сфере финансовых услуг под названием Brex.
В своем блоге компания Scale отметила: "Используя API для тонкой настройки GPT-3.5 на данных Brex, аннотированных с помощью Scale's Data Engine, мы увидели, что модель GPT-3.5 с тонкой настройкой превзошла стоковую турбо-модель GPT-3.5 66%".
Генеральный директор компании Brex отметил, что использование GPT-3.5 с точной настройкой "стало для нас переломным моментом, позволившим нам предоставлять высококачественные услуги ИИ, сравнимые с GPT-4, при гораздо меньшей стоимости и меньшей задержке".
Производительность GPT-моделей OpenAI никогда не вызывала сомнений, но стоимость доступа и работы с ними - да. Тонкая настройка моделей позволяет сократить длительность запросов и повысить эффективность ответов.
Более быстрая и точная работа означает, что во время вызовов API отправляется меньше токенов, что сразу же дает экономию средств по сравнению с базовыми моделями.
Хотя Meta продолжает предоставлять свои модели бесплатно, соотношение стоимости и производительности может сделать платное предложение OpenAI более выгодным.
Конфиденциальность и безопасность данных по-прежнему остаются камень преткновения для многих компаний хотя. И в своем объявлении о партнерстве OpenAI снова заявила, что "Как всегда, данные, отправляемые в API тонкой настройки и получаемые из него, принадлежат заказчику и не используются OpenAI или любой другой организацией для обучения других моделей".
Если компании не пойдут на это, то OpenAI придется переосмыслить свой проприетарный подход к моделям. OpenAI придется найти способ предложить защищенные, приватные версии своих моделей GPT, которые можно будет запускать локально.