OpenAI har inngått et samarbeid med Scale for å tilby tilpasning av OpenAIs GPT-3.5 Turbo-modell, som nylig ble gjort tilgjengelig for finjustering.
Scale hjelper selskaper med å skape tilpassede AI-produkter med et sterkt fokus på maskinlæring, oppretting av datasett og merking.
Ytelsen som en finjustert versjon av GPT-3.5 Turbo gjør det til et attraktivt alternativ for selskaper som ønsker å bygge sine egne AI-plattformer. Men finjusteringsprosessen kan være utfordrende.
Det er derfor OpenAI sier at de samarbeider med Scale "på grunn av deres erfaring med å hjelpe bedrifter med å utnytte data for AI på en sikker og effektiv måte".
OpenAIs COO, Brad Lightcap, sier: "Scale utvider vår evne til å gi flere selskaper muligheten til å finjustere, og bygger videre på deres erfaring med AI for å hjelpe bedrifter med å bruke OpenAI-modeller bedre for deres unike behov."
Vi samarbeider med @scale_AI for å gi støtte til bedrifter som finjusterer GPT-3.5 på sine proprietære data. https://t.co/JAr8u2qXlx
- OpenAI (@OpenAI) 24. august 2023
Scale illustrerte mulighetene som ligger i finjusteringen av GPT-3.5 ved å vise til resultatene selskapet oppnådde med en av sine kunder innen finansielle tjenester, Brex.
I blogginnlegget skriver Scale: "Ved å bruke GPT-3.5 finjusterings-API-et på Brex-data som er annotert med Scale's Data Engine, så vi at den finjusterte GPT-3.5-modellen overgikk GPT-3.5-turbomodellen 66% på lager."
Administrerende direktør i Brex sa at bruk av en finjustert GPT-3.5 "har vært en game changer for oss, og gjort oss i stand til å levere AI-opplevelser av høy kvalitet, sammenlignbare med GPT-4, med mye lavere kostnader og lavere ventetid."
Det har aldri vært stilt spørsmål ved ytelsen til OpenAIs GPT-modeller, men det har vært kostnadene ved å få tilgang til og kjøre dem. Finjusteringen av modellene gjør det mulig å gi kortere spørsmål med mer effektive svar.
Den raskere og mer nøyaktige ytelsen betyr at det sendes færre tokens under API-anrop, noe som gir en umiddelbar kostnadsbesparelse sammenlignet med basismodellene.
Selv om Meta fortsetter å dele ut modellene sine gratis, kan forholdet mellom kostnad og ytelse fortsatt gjøre OpenAIs betalte tilbud til et bedre kjøp.
Personvern og datasikkerhet er fortsatt et et springende punkt for mange selskaper skjønt. Og i kunngjøringen om partnerskapet sa OpenAI igjen at "Som alltid eies data som sendes inn og ut av finjusterings-API-et av kunden og brukes ikke av OpenAI, eller noen annen organisasjon, til å trene andre modeller."
Hvis selskapene ikke kjøper dette, må OpenAI revurdere sin proprietære tilnærming til modellene sine. OpenAI må finne en måte å tilby sikre, private versjoner av GPT-modellene som kan kjøres lokalt.
