OpenAI ha anunciado que los desarrolladores ya pueden ajustar su modelo GPT-3.5 Turbo utilizando datos personalizados.
El ajuste fino es el proceso de tomar la versión base de un modelo como GPT-3.5 Turbo, en el que se basa ChatGPT, y entrenarlo con un conjunto de datos personalizados muy específicos.
El modelo base de GPT-3.5 Turbo es bastante bueno para hacer un montón de cosas diferentes. Una vez que un desarrollador lo afina en un conjunto de datos centrado en un caso de uso específico, se vuelve realmente bueno en la realización de un conjunto muy específico de tareas. Es como entrenar a un manitas para que sea un buen fontanero.
Las empresas pueden ahora formar una versión de ChatGPT utilizando GPT-3.5 Turbo para que ofrezca resultados adaptados a su negocio.
Por ejemplo, una empresa puede querer que todas las respuestas de ChatGPT estén en un idioma concreto o que las respuestas sean siempre más cortas o más largas. Las respuestas también pueden entrenarse para que siempre salgan en un formato específico o para que sigan un tono coherente de comunicación corporativa.
Si desea utilizar ChatGPT para ofrecer de forma sistemática un tipo específico de finalización de código o simplemente centrarse en la composición de llamadas a la API, ahora puede entrenarlo para que lo haga con GPT-3.5 Turbo.
Hasta ahora, los desarrolladores sólo podían ajustar las variantes heredadas de GPT-3 menos capaces. El uso de una versión mejorada de GPT-3.5 Turbo ofrece un rendimiento mucho mayor.
En su anuncio, OpenAI afirma que "las primeras pruebas han demostrado que una versión perfeccionada de GPT-3.5 Turbo puede igualar, o incluso superar, las capacidades del nivel básico de GPT-4 en determinadas tareas limitadas".
GPT-3.5 Turbo tiene una ventana de contexto de tokens de 4k, el doble que los modelos anteriores de ajuste fino. A finales de este año se pondrá a disposición una versión de 16k del modelo para su ajuste.
Acabamos de lanzar el ajuste fino para GPT-3.5 Turbo. El ajuste fino le permite entrenar el modelo con los datos de su empresa y ejecutarlo a escala. Las primeras pruebas han demostrado que GPT-3.5 Turbo puede igualar o superar a GPT-4 en tareas específicas: https://t.co/VaageW9Kaw pic.twitter.com/nndOyxS2xs
- OpenAI (@OpenAI) 22 de agosto de 2023
No es gratis, pero cada vez es más barato
OpenAI sigue cobrando por las llamadas a la API de sus modelos, pero la posibilidad de ajustar el modelo puede reducir los costes generales de su funcionamiento.
El coste de utilizar GPT-3.5 es de $0,008/1k tokens para el entrenamiento, $0,012/1k tokens para el uso de entrada y $0,016/1k tokens para el uso de salida.
La cantidad de fichas que envíes y las respuestas que obtengas determinarán el coste de ida y vuelta. Si se ajusta el modelo, se le puede entrenar para que responda a instrucciones más cortas. OpenAI afirma que algunos de los primeros usuarios pudieron reducir la longitud de las instrucciones hasta 90%.
Esta reducción de la cantidad de tokens enviados reduce los costes asociados, pero también hace que las llamadas a la API sean mucho más rápidas. La oportunidad de reducir costes mediante el ajuste fino es crucial para OpenAI, ya que compite con modelos gratuitos como Llama 2.
Aunque OpenAI cobra por las llamadas a la API, la eficiencia y la mejora del rendimiento pueden hacer que su funcionamiento resulte más barato que el de modelos gratuitos de código abierto como Llama 2. Los modelos gratuitos tienen que funcionar en algún sitio y los costes informáticos no son baratos.
La puesta a disposición de GPT-3.5 Turbo para el ajuste fino también es oportuna si se tiene en cuenta cómo... Microsoft ha estado moviendos para lanzar modelos de IA competidores en su plataforma Azure.
Y mientras persisten las preocupaciones corporativas sobre la seguridad de los datos de ChatGPT, OpenAI se esforzó en reafirmar que "Como ocurre con todas nuestras API, los datos enviados dentro y fuera de la API de ajuste fino son propiedad del cliente y no son utilizados por OpenAI, ni por ninguna otra organización, para entrenar otros modelos."
Queda por ver si será suficiente para convencer a los escépticos. Si todo se reduce a los costes de procesamiento y el rendimiento, la oferta de OpenAI se convertirá en una perspectiva más atractiva que incluso los principales modelos de IA gratuitos.
