Contacta con nosotros

Temario del curso

Introducción a los Modelos de Lenguaje Grande (LLM)

  • Visión general de los LLM
  • Definición e importancia
  • Aplicaciones en IA hoy en día

Arquitectura Transformadora

  • ¿Qué es un transformador y cómo funciona?
  • Componentes principales y características
  • Alineamiento y codificación posicional
  • Atención de múltiples cabezas
  • Red neuronal de alimentación hacia adelante
  • Normalización y conexiones residuales

Modelos Transformadores

  • Mecanismo de autoatención
  • Arquitectura codificador-decodificador
  • Alineamientos posicionales
  • BERT (Representaciones Codificadas Bidireccionales desde Transformadores)
  • GPT (Transformador Preentrenado Generativo)

Optimización del rendimiento y errores comunes

  • Longitud del contexto
  • Mamba y modelos de espacio de estado
  • Atención flash
  • Transformadores dispersos
  • Transformadores visuales
  • Importancia de la cuantización

Mejora de los Transformadores

  • Generación de texto aumentada por recuperación
  • Mezcla de modelos
  • Árbol de pensamientos

Afinamiento

  • Teoría de adaptación de bajo rango
  • Afinamiento con QLora

Leyes de escalado y optimización en LLM

  • Importancia de las leyes de escalado para los LLM
  • Escalado del tamaño de los datos y del modelo
  • Escalado computacional
  • Escalado de la eficiencia de parámetros

Optimización

  • Relación entre el tamaño del modelo, el tamaño de los datos, el presupuesto computacional y los requisitos de inferencia
  • Optimización del rendimiento y eficiencia de los LLM
  • Buenas prácticas y herramientas para entrenar y afinar LLM

Entrenamiento y Afinamiento de LLM

  • Pasos y desafíos del entrenamiento de LLM desde cero
  • Adquisición y mantenimiento de datos
  • Requisitos de datos a gran escala, CPU y memoria
  • Desafíos de optimización
  • Cuadro general de los LLM de código abierto

Fundamentos del Aprendizaje por Refuerzo (RL)

  • Introducción al Aprendizaje por Refuerzo
  • Aprendizaje a través del refuerzo positivo
  • Definición y conceptos fundamentales
  • Proceso de Decisión de Markov (MDP)
  • Programación dinámica
  • Métodos de Monte Carlo
  • Aprendizaje por Diferencia Temporal

Aprendizaje Profundo por Refuerzo

  • Redes Q Profundas (DQN)
  • Optimización de Política Próxima (PPO)
  • Elementos del Aprendizaje por Refuerzo

Integración de LLM y Aprendizaje por Refuerzo

  • Combinar LLM con Aprendizaje por Refuerzo
  • Cómo se utiliza RL en LLM
  • Aprendizaje por Refuerzo con Retroalimentación Humana (RLHF)
  • Alternativas a RLHF

Casos de estudio y aplicaciones

  • Aplicaciones del mundo real
  • Historias de éxito y desafíos

Tópicos avanzados

  • Técnicas avanzadas
  • Métodos de optimización avanzada
  • Investigación y desarrollos de vanguardia

Resumen y siguientes pasos

Requerimientos

  • Conocimiento básico de Aprendizaje Automático

Público objetivo

  • Científicos de datos
  • Ingenieros de software
 21 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas