OpenAI har inlett ett samarbete med Scale för att tillhandahålla anpassning av OpenAI:s GPT-3.5 Turbo-modell som nyligen gjordes tillgänglig för finjustering.
Scale hjälper företag att skapa anpassade AI-produkter med starkt fokus på maskininlärning, skapande av dataset och märkning.
Den prestation som en finjusterad version av GPT-3.5 Turbo gör det till ett attraktivt alternativ för företag som vill bygga sina egna AI-plattformar. Men finjusteringsprocessen kan vara utmanande.
Det är därför OpenAI säger att de samarbetar med Scale "med tanke på deras erfarenhet av att hjälpa företag att på ett säkert och effektivt sätt utnyttja data för AI".
OpenAI COO, Brad Lightcap, säger: "Scale utökar vår förmåga att ge fler företag möjligheten att finjustera, och bygger vidare på deras erfarenhet av AI för företag för att hjälpa företag att bättre tillämpa OpenAI-modeller för sina unika behov."
Vi samarbetar med @skala_AI för att ge stöd till företag som finjusterar GPT-3.5 på sina egna data. https://t.co/JAr8u2qXlx
- OpenAI (@OpenAI) 24 augusti 2023
Scale illustrerade den möjlighet som finjusteringen av GPT-3.5 innebär genom att peka på de resultat som företaget uppnådde med en av sina kunder inom finansiella tjänster, Brex.
I sitt blogginlägg sa Scale: "Genom att använda GPT-3.5 finjusterande API på Brex-data annoterade med Scale's Data Engine såg vi att den finjusterade GPT-3.5-modellen överträffade aktien GPT-3.5 turbo modell 66% av tiden."
Brex VD sade att användningen av en finjusterad GPT-3.5 "har förändrat spelplanen för oss och gjort det möjligt för oss att leverera högkvalitativa AI-upplevelser, jämförbara med GPT-4, till en mycket lägre kostnad och med lägre latens".
Prestandan hos OpenAI:s GPT-modeller har aldrig ifrågasatts, men det har däremot kostnaden för att få tillgång till och köra dem. Genom att finjustera modellerna kan man få kortare uppmaningar med effektivare svar.
Den snabbare och mer exakta prestandan innebär att färre tokens skickas under API-anrop och det ger en omedelbar kostnadsbesparing jämfört med basmodellerna.
Medan Meta fortsätter att dela ut sina modeller gratis, kan förhållandet mellan kostnad och prestanda fortfarande göra OpenAI: s betalda erbjudande till ett bättre köp.
Sekretess och säkerhet för data är fortfarande ett knäckfråga för många företag dock. Och i sitt tillkännagivande av partnerskapet sa OpenAI igen att "Som alltid ägs data som skickas in och ut ur finjusterings-API: n av kunden och används inte av OpenAI, eller någon annan organisation, för att träna andra modeller."
Om företagen inte går på den linjen kommer OpenAI att behöva ompröva sin proprietära inställning till sina modeller. OpenAI kommer att behöva hitta ett sätt att erbjuda säkra, privata versioner av sina GPT-modeller som kan köras lokalt.
