OpenAI lanza herramientas de fine-tuning más económicas

OpenAI expandió su plataforma de fine-tuning con nuevas capacidades que reducen la barrera de entrada para empresas que quieren adaptar los modelos GPT a sus necesidades específicas. Las actualizaciones incluyen soporte para datasets más grandes, nuevas métricas de evaluación y una interfaz de monitoreo que facilita identificar cuándo un modelo ajustado está divergiendo del comportamiento esperado.

Las nuevas capacidades de fine-tuning

El límite de tokens para datasets de fine-tuning fue aumentado de 4 millones a 40 millones, permitiendo el uso de bases de datos de entrenamiento más ricas y representativas. El nuevo formato de datos soporta conversaciones con múltiples turnos y permite que el desarrollador especifique el peso de cada ejemplo de entrenamiento — dando más influencia a los casos más relevantes para el caso de uso específico.

El sistema de evaluación automática fue expandido: además de las métricas de pérdida de entrenamiento, la plataforma ahora ofrece evaluaciones en datasets de benchmark predefinidos y permite la creación de evaluaciones personalizadas con criterios definidos por el propio usuario. El monitoreo de alucinaciones en el modelo ajustado fue mejorado con un sistema que detecta respuestas que divergen del training data de formas potencialmente problemáticas.

Consideraciones de costo y accesibilidad

Los precios de fine-tuning siguen siendo significativos para proyectos de alta escala, pero OpenAI introdujo un nivel de acceso para empresas medianas con créditos iniciales y precios por token menores para los primeros 10 millones de tokens de training. Para empresas que necesitan personalización de modelos pero no tienen los recursos para entrenar sus propios LLMs, las nuevas capacidades representan una opción más accesible que en cualquier momento anterior.