OpenAI har indgået et samarbejde med Scale om at tilbyde tilpasning af OpenAI's GPT-3.5 Turbo-model, som for nylig blev gjort tilgængelig til finjustering.
Scale hjælper virksomheder med at skabe tilpassede AI-produkter med et stærkt fokus på maskinlæring, oprettelse af datasæt og mærkning.
Den præstation, som en finjusteret version af GPT-3.5 Turbo gør det til en attraktiv mulighed for virksomheder, der ønsker at opbygge deres egne AI-platforme. Men finjusteringsprocessen kan være udfordrende.
Derfor siger OpenAI, at de samarbejder med Scale "på grund af deres erfaring med at hjælpe virksomheder med at udnytte data til AI på en sikker og effektiv måde."
OpenAI's COO, Brad Lightcap, siger: "Scale udvider vores evne til at bringe kraften i finjustering til flere virksomheder og bygger på deres erfaring med AI i virksomheder for at hjælpe virksomheder med bedre at anvende OpenAI-modeller til deres unikke behov."
Vi samarbejder med @scale_AI for at yde støtte til virksomheder, der finjusterer GPT-3.5 på deres proprietære data. https://t.co/JAr8u2qXlx
- OpenAI (@OpenAI) 24. august 2023
Scale illustrerede muligheden for at finjustere GPT-3.5 ved at pege på de resultater, virksomheden opnåede med en af sine kunder inden for finansielle tjenester, Brex.
I sit blogindlæg sagde Scale: "Ved at bruge GPT-3.5-finjusterings-API'en på Brex-data, der var kommenteret med Scales datamotor, så vi, at den finjusterede GPT-3.5-model overgik den almindelige GPT-3.5-turbomodel 66% på det tidspunkt."
Den administrerende direktør for Brex sagde, at brugen af en finjusteret GPT-3.5 "har været en game changer for os, så vi kan levere AI-oplevelser af høj kvalitet, der kan sammenlignes med GPT-4, med meget lavere omkostninger og lavere latenstid."
Der har aldrig været tvivl om ydeevnen i OpenAI's GPT-modeller, men det har der til gengæld om omkostningerne ved at få adgang til og køre dem. Finjustering af modellerne giver mulighed for kortere prompts med mere effektive svar.
Den hurtigere og mere præcise ydelse betyder, at der sendes færre tokens under API-opkald, og det giver en øjeblikkelig omkostningsbesparelse i forhold til basismodellerne.
Meta fortsætter med at uddele sine modeller gratis, men forholdet mellem omkostninger og ydeevne kan stadig gøre OpenAI's betalte tilbud til et bedre køb.
Privatlivets fred og datasikkerhed er stadig et Knudepunkt for mange virksomheder dog. Og i sin meddelelse om partnerskabet sagde OpenAI igen, at "Som altid ejes data, der sendes ind og ud af finjusterings-API'en, af kunden og bruges ikke af OpenAI eller nogen anden organisation til at træne andre modeller."
Hvis virksomhederne ikke tror på det, bliver OpenAI nødt til at genoverveje sin proprietære tilgang til sine modeller. OpenAI bliver nødt til at finde en måde at tilbyde sikre, private versioner af sine GPT-modeller, som kan køre lokalt.
