Azure OpenAI: Optimiza tu modelo con Fine-Tuning

Microsoft¿Qué es el Fine-Tuning?

Fine-Tuning es un proceso de ajuste personalizado para mejorar el rendimiento de nuestros modelos adaptándolos a nuestros conjuntos de datos. Se trata de un servicio de personalización que nos va a permitir hacer más eficiente el servicio que estemos implementando.

¿Qué vamos a conseguir con Fine-Tuning?

  • Obtendremos resultados de mayor calidad que los que se pueden obtener simplemente con una consulta rápida.
  • Tendremos la capacidad de entrenar con más ejemplos de los que caben en el límite máximo de contexto de solicitud de un modelo.
  • Va a disminuir la latencia en las solicitudes, especialmente con modelos más pequeños.

 

Un modelo optimizado mejora el enfoque de aprendizaje de pocos intentos al entrenar con sus propios datos, logrando mejores resultados en una mayor cantidad de tareas sin necesidad de proporcionar ejemplos en su mensaje. El resultado es un menor envío de texto y menos tokens procesados en cada llamada a la API, lo que potencialmente ahorra costos y mejora la latencia de las solicitudes.

Para realizar el ajuste es importante tener en cuenta que cuantos más ejemplos de entrenamiento tengamos, mejor va a ser. El número mínimo de ejemplos de entrenamiento es 10, pero un número tan pequeño no es suficiente para mejorar de forma significativa las respuestas del modelo. OpenAI recomienda tener al menos 50 ejemplos de entrenamiento de alta calidad, aunque es posible tener un caso de uso que pueda requerir 1000 ejemplos de entrenamiento de alta calidad para conseguir mejorar de forma reseñable la respuesta del modelo.

En general, duplicar el tamaño del conjunto de datos puede producir un aumento lineal de la calidad del modelo, pero los ejemplos de baja calidad pueden afectar negativamente al rendimiento. Si se entrena el modelo en una gran cantidad de datos internos, sin eliminar primero el conjunto de datos de menos calidad, posiblemente acabaríamos teniendo un modelo que funcionará mucho peor de lo esperado.

 

¿Cómo se habilita el Fine-Tuning?

Para acceder correctamente a Fine Tuning, necesitas al menos tener el rol de Colaborador de OpenAI de Cognitive Services asignado. Incluso alguien con permisos de administrador de servicios de alto nivel necesitaría esta cuenta establecida explícitamente para acceder a las funcionalidades del Fine-Tuning.

Azure OpenAI Studio proporciona el asistente para crear modelos personalizados.
Inicia sesión con las credenciales que dispongan del rol necesario y acceso al recurso de Azure OpenAI. Es importante que, durante el flujo de trabajo de inicio de sesión, te encuentres en el tenant, suscripción de Azure y recurso de Azure OpenAI adecuados.

En Azure OpenAI Studio, ve al panel Administración > Modelos, y selecciona Crear un modelo personalizado.


El panel Modelo base te permite elegir la base que se utilizará para el modelo personalizado. La elección influye tanto en el rendimiento como en el coste del mismo.
Desde la lista desplegable Tipo de modelo base, selecciona la opción deseada. Podrás crear una versión personalizada desde uno de los siguientes:

  • Babbage-002
  • Davinci-002
  • GPT-35-Turbo

 

Continúa cargando los nuevos datos de entrenamiento para personalizar el modelo. En caso de ser un volumen grade es recomendable cargarlo desde un Blob Storage de Azure. Es importante tener en cuenta que los archivos de datos de entrenamiento deben tener el formato JSONL y estar codificados en UTF-8 con una marca de orden de bytes (BOM).

Tras incluir los datos de entrenamiento, define los datos de datos de validación en el proceso de entrenamiento. Si no quieres usar datos de validación, puedes pasar a la siguiente sección para configurar las opciones avanzadas del modelo.

Por último, cuando se haya completado el proceso de ajuste, podrás implementar el modelo personalizado desde el panel Modelos.

 

¡AHORA EN PREVIEW!

Ahora se permite Fine-Tuning en nuevos modelos

GPT-35-Turbo-0613 ya está disponible para realizar Fine-Tuning

Babbage-002 y ahora Davinci-002 están disponibles para realizar Fine-Tuning remplazando a los modelos base heredados Ada, Babbage, Curie y Davinci, que anteriormente estaban disponibles con Fine-Tuning.

La disponibilidad de ajustes está limitada a determinadas regiones. Te recomendamos consultar esta página para obtener la información más reciente sobre la disponibilidad de modelos en cada región:
Azure OpenAI Service models – Azure OpenAI | Microsoft Learn

* Los modelos optimizados tienen límites de cuota diferentes a los de los modelos normales.

 


 

En V-Valley somos especialistas en Soluciones Cloud de Microsoft. Llevamos años asesorando y colaborando con nuestros partners en el desarrollo de los modelos de negocio y correcto licenciamiento de las soluciones Microsoft.

Si quieres más información sobre Azure OpenAI no dudes en contactar con nosotros.

 

Noticias recientes