Datos de entrenamiento
Ejemplos limpios y etiquetados, con separación entre entrenamiento y prueba.
Servicio IA · S-003 · Consultoría
Fine-tuning y custom models
Tu modelo, con tu tono y tu tarea. LoRAs y QLoRA sobre Llama, Mistral o Qwen, con evaluaciones, despliegue on-premise y control de coste.
Afinar un modelo no es hacerlo más listo: es hacerlo tuyo, con tus reglas y medido con tus casos.
Qué es y para quién
Cuando el prompt ya no basta.
Fine-tuning sobre tus datos para formato, tono y tarea, con evaluaciones y despliegue donde tú decidas. Lee la guía completa de Inteligencia Artificial para el contexto teórico.
Hay tareas donde ni el prompt ni el contexto resuelven: un clasificador propio con nueve etiquetas, un formato de salida muy estricto, un tono corporativo que un modelo general no va a acertar. En esos casos, afinar el modelo con tus ejemplos es más barato y más fiable que probar cien variantes de prompt. Pero requiere evaluación: sin un conjunto de pruebas, afinar es adivinar.
Va dirigido a empresas con volumen alto y tarea estable, con datos suficientes para entrenar y con la necesidad de controlar dónde se ejecutan los datos. Con poco volumen, un buen prompt con RAG suele ser más barato. El análisis previo dice cuál de los dos casos es el tuyo.
- Equipos con volumen alto donde el coste por llamada ya pesa en la cuenta.
- Empresas con regulación que necesitan el modelo dentro de su infraestructura.
- Equipos de datos con tareas de clasificación o extracción propias.
- Equipos de plataforma que quieren un modelo propio como producto.
Qué incluye
Seis piezas de un modelo afinado.
Datos de entrenamiento, LoRA o QLoRA, evaluaciones, comparativa, despliegue y control de coste.
LoRA o QLoRA
Adaptación ligera con LoRAs cuantizados, sin tocar los pesos base.
Evaluaciones
RAGAS, Braintrust o evaluación propia con casos y métricas acordadas.
Comparativa
Modelo base frente al modelo afinado, con coste, latencia y calidad.
Despliegue
On-premise, cloud privada o servicio gestionado, con monitorización.
Control de versión
Pesos, hiperparámetros, datos y evaluaciones guardados por versión.
Trazabilidad
Cada modelo tiene su historia.
Datos, hiperparámetros, evaluaciones y comparativa con el modelo base.
- Cantidad de ejemplos por clase y su distribución
- Hiperparámetros y librerías con las que se entrenó
- Métricas de calidad y de coste frente al modelo base
- Versión de los pesos y artefactos necessary para reproducirlo
Cómo funciona
El ciclo de un fine-tuning.
Cinco pasos entre los datos y el modelo en producción.
-
01
Preparar datos
Se reune, limpia y etiqueta el conjunto, y se reserva una parte para pruebas.
-
02
Afinar
Se entrena el LoRA o el modelo completo con los parámetros acordados.
-
03
Evaluar
Se compara con el modelo base en las métricas acordadas y con casos nuevos.
-
04
Desplegar
Se publica con control de versión, monitorización y plan de reversión.
-
05
Mantener
Se detectan casos nuevos, se añaden al conjunto y se repite el ciclo.
Si la evaluación no mejora con el modelo base, no se publica. Afinar sin mejorar la métrica solo cuesta tiempo y GPU.
Cómo trabajamos
De un caso concreto a un modelo propio.
Verificamos que compensa, entrenamos, evaluamos y desplegamos.
-
Viabilidad
Comprobamos que el prompt y RAG no bastan y que hay datos suficientes.
-
Preparación de datos
Limpieza, etiquetado, división y control de calidad del conjunto.
-
Entrenamiento
Ajuste de hiperparámetros con evaluación periódica y control de overfitting.
-
Evaluación y comparativa
Modelo base frente al afinado, con coste y latencia por llamada.
-
Despliegue y control
Publicación versionada, monitorización y plan de vuelta atrás.
Dónde rinde
Tres casos donde afinar salió a cuenta.
El mismo esquema sirve para clasificación, extracción o generación con tono propio.
El clasificador de caía al prompt genérico y mandaba categorías equivocadas.
Afinado con 8.400 ejemplos etiquetados, el F1 subió de 0,78 a 0,91 y el coste por llamada bajó a la mitad.
La extracción de datos clínicos exige un formato que el modelo base no cumple.
El modelo afinado devuelve el esquema válido el 99% de las veces y el proceso deja de necesitar validación manual.
El equipo no podía enviar conversaciones de clientes a un proveedor externo.
El modelo afinado se despliega en la infraestructura del banco con la misma tarea y sin salir de la organización.
Sectores
Dónde ya lo hemos montado.
Marketing
Ventas
Operaciones
Atención al cliente
Finanzas
Legal
RR.HH.
Ecommerce
Seguros
Logística
Sanidad
Legaltech
Afinar no era lo que creíamos. Lo que nos ahorró fue el prompt, el contexto y las llamadas repetidas. El modelo propio llegó después, y con criterios.
Pau R.
Head of AI Platform · Banca
Reseña verificada en Google
4,9/5 · 240+ opiniones.
¿Cuándo compensa afinar?
Cuando la tarea es estable, hay volumen alto y el prompt con contexto no llega al objetivo. Con poco volumen, un buen prompt con RAG sale más barato y se mantiene mejor.
¿Qué datos hacen falta?
Depende de la tarea, pero como orden de magnitud: cientos de ejemplos bien etiquetados para clasificar, miles para afinar el tono. Con menos de 200 el overfitting está casi asegurado.
¿Se puede desplegar en mi servidor?
Sí. Los modelos open-source como Llama, Mistral o Qwen se despliegan con vLLM o TGI en tu infraestructura, con cuantización para no necesitar GPU de centro de datos.
¿Qué hardware hace falta?
Con QLoRA, una GPU de 24 GB basta para entrenar y un equipo modesto para inferencia. Para un volumen alto, varias GPUs o cuantización a 4 bits.
¿Qué se evalúa?
Precisión, exhaustividad y calidad de la respuesta con RAGAS, con métricas propias de la tarea y con un conjunto de casos humanos. Sin evaluación, el afinado es adivinar.
¿Cuánto tarda?
De seis a diez semanas: dos de datos, dos de entrenamiento y evaluación, y el resto de despliegue y comparativa. El primer fine-tuning suele ser el más lento; los siguientes, con los datos ya listos, van en semanas.
Reservar
Cuéntanos tu proceso.
Media hora para entender si este servicio merece la pena. Si no lo tiene, te lo decimos en la llamada.
Reserva tu videollamada gratuita
30 minutos con Jorge Sánchez Mosquete, experto en Fine-tuning y custom models. Sin compromiso, en español.
•
LMXJVSD
Selecciona un día
• Empieza eligiendo un día disponible en el calendario
Powered by Netbulb