Ajuste fino de modelos y Modelos de Lenguaje Grande (LLM)

Introducción al Ajuste Fino

• ¿Qué es el ajuste fino?
• Casos de uso y beneficios del ajuste fino
• Resumen de modelos preentrenados y aprendizaje por transferencia

Preparación para el Ajuste Fino

• Recolección y limpieza de conjuntos de datos
• Comprensión de los requisitos específicos de datos para la tarea
• Análisis exploratorio de datos y preprocesamiento

Técnicas de Ajuste Fino

• Aprendizaje por transferencia y extracción de características
• Ajuste fino de transformadores con Hugging Face
• Ajuste fino para tareas supervisadas frente a no supervisadas

Ajuste Fino de Modelos de Lenguaje Grande (LLM)

• Adaptación de LLM para tareas de PLN (por ejemplo, clasificación de texto, resumen)
• Entrenamiento de LLM con conjuntos de datos personalizados
• Control del comportamiento de LLM mediante ingeniería de prompts

Optimización y Evaluación

• Ajuste de hiperparámetros
• Evaluación del rendimiento del modelo
• Abordar el sobreajuste (overfitting) y el subajuste (underfitting)

Escalar los Esfuerzos de Ajuste Fino

• Ajuste fino en sistemas distribuidos
• Aprovechar soluciones basadas en la nube para escalabilidad
• Casos de estudio: Proyectos de ajuste fino a gran escala

Mejores Prácticas y Desafíos

• Mejores prácticas para el éxito en el ajuste fino
• Desafíos comunes y resolución de problemas
• Consideraciones éticas en el ajuste fino de modelos de IA

Temas Avanzados (Opcional)

• Ajuste fino de modelos multimodales
• Aprendizaje zero-shot y few-shot
• Exploración de técnicas LoRA (Adaptación de Bajo Rango)

Resumen y Próximos Pasos