Escalabilidad e Optimización de la Infraestructura de Ollama
Ollama es una plataforma para ejecutar modelos de lenguaje grande y multimodales localmente y a escala.
Este entrenamiento guiado por instructores (en línea o en las instalaciones) está dirigido a ingenieros de nivel intermedio a avanzado que desean escalar implementaciones de Ollama para entornos multiusuario, de alto rendimiento y eficientes en costos.
Al finalizar este entrenamiento, los participantes podrán:
- Configurar Ollama para cargas de trabajo multiusuario y distribuidas.
- Optimizar la asignación de recursos de GPU y CPU.
- Implementar estrategias de escalado automático, agrupamiento y reducción de latencia.
- Monitorear y optimizar la infraestructura para lograr eficiencia en el rendimiento y los costos.
Formato del curso
- Clase interactiva y discusión.
- Laboratorios prácticos de implementación y escalado.
- Ejercicios de optimización prácticos en entornos reales.
Opciones de personalización del curso
- Para solicitar un entrenamiento personalizado para este curso, por favor contáctenos para coordinar los detalles.
Temario del curso
Introducción a la escalabilidad de Ollama
- Arquitectura de Ollama y consideraciones de escalado.
- Cuellos de botella comunes en implementaciones multiusuario.
- Mejores prácticas para la preparación de infraestructura.
Asignación de recursos y optimización de GPU
- Estrategias eficientes de utilización de CPU/GPU.
- Consideraciones sobre memoria y ancho de banda.
- Restricciones de recursos a nivel de contenedor.
Implementación con contenedores y Kubernetes
- Contenerización de Ollama con Docker.
- Ejecución de Ollama en clústeres de Kubernetes.
- Balanceo de carga y descubrimiento de servicios.
Escalado automático y agrupamiento
- Diseño de políticas de escalado automático para Ollama.
- Técnicas de inferencia en grupos para optimizar el rendimiento.
- Priorización entre latencia y rendimiento.
Optimización de la latencia
- Perfilamiento del rendimiento de la inferencia.
- Estrategias de almacenamiento en caché y calentamiento del modelo.
- Reducción de la sobrecarga de E/S y comunicación.
Monitoreo y observabilidad
- Integración de Prometheus para métricas.
- Creación de paneles con Grafana.
- Alertas y respuesta a incidentes para la infraestructura de Ollama.
Gestión de costos y estrategias de escalado
- Asignación de GPU consciente de los costos.
- Consideraciones entre implementación en la nube y en las instalaciones.
- Estrategias para un escalado sostenible.
Resumen y próximos pasos
Requerimientos
- Experiencia con administración de sistemas Linux.
- Conocimiento sobre contenerización y orquestación.
- Familiaridad con la implementación de modelos de aprendizaje automático.
Público objetivo
- Ingenieros DevOps.
- Equipos de infraestructura de aprendizaje automático.
- Ingenieros de confiabilidad del sitio.
Los cursos públicos requieren más de 5 participantes.
Escalabilidad e Optimización de la Infraestructura de Ollama - Reserva
Escalabilidad e Optimización de la Infraestructura de Ollama - Consulta
Escalabilidad e Optimización de la Infraestructura de Ollama - Solicitud de consultoría
Próximos cursos
Cursos Relacionados
Depuración y evaluación avanzadas de modelos de Ollama
35 HorasLa depuración y evaluación avanzadas de modelos de Ollama es un curso en profundidad centrado en el diagnóstico, las pruebas y la medición del comportamiento de los modelos al ejecutar implementaciones locales o privadas de Ollama.
Esta formación dirigida por instructores, impartida en línea o presencial, está destinada a ingenieros de IA avanzados, profesionales de ML Ops y especialistas en QA que deseen garantizar la fiabilidad, la fidelidad y la disponibilidad operativa de los modelos basados en Ollama en entornos de producción.
Al finalizar esta formación, los participantes serán capaces de:
- Realizar una depuración sistemática de los modelos alojados con Ollama y reproducir las causas de fallo de manera fiable.
- Diseñar y ejecutar pipelines de evaluación robustos con métricas cuantitativas y cualitativas.
- Implementar capacidades de observabilidad (registros, trazas y métricas) para monitorear la salud del modelo y su deriva.
- Automatizar pruebas, validaciones y verificaciones de regresión integradas en pipelines CI/CD.
Formato del curso
- Conferencias interactivas y discusión.
- Laboratorios prácticos y ejercicios de depuración con implementaciones de Ollama.
- Estudios de caso, sesiones grupales de resolución de problemas y talleres de automatización.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinarlo.
Creación de flujos de trabajo de IA privados con Ollama
14 HorasEsta formación en vivo impartida por un instructor en Panama (en línea o presencial) está dirigida a profesionales de nivel avanzado que deseen implementar flujos de trabajo impulsados por IA seguros y eficientes utilizando Ollama.
Al finalizar esta formación, los participantes serán capaces de:
- Implementar y configurar Ollama para el procesamiento de IA privada.
- Integrar modelos de IA en flujos de trabajo empresariales seguros.
- Optimizar el rendimiento de la IA manteniendo la privacidad de los datos.
- Automatizar procesos comerciales con capacidades de IA on-premise.
- Asegurar el cumplimiento de las políticas de seguridad y gobernanza empresarial.
Implementación y optimización de modelos de lenguaje grandes con Ollama
14 HorasEsta formación en vivo impartida por un instructor en Panama (en línea o presencial) está dirigida a profesionales de nivel intermedio que deseen desplegar, optimizar e integrar LLMs utilizando Ollama.
Al finalizar esta formación, los participantes serán capaces de:
- Configurar y desplegar LLMs usando Ollama.
- Optimizar modelos de IA para rendimiento y eficiencia.
- Aprovechar la aceleración de GPU para mejorar las velocidades de inferencia.
- Integrar Ollama en flujos de trabajo y aplicaciones.
- Monitorear y mantener el rendimiento de los modelos de IA con el tiempo.
Afinación y personalización de modelos de IA en Ollama
14 HorasEsta formación en vivo dirigida por un instructor en Panama (en línea o presencial) está dirigida a profesionales de nivel avanzado que deseen afinar y personalizar modelos de IA en Ollama para mejorar el rendimiento y aplicarlos a dominios específicos.
Al finalizar esta formación, los participantes serán capaces de:
- Configurar un entorno eficiente para la afinación de modelos de IA en Ollama.
- Preparar conjuntos de datos para la afinación supervisada y el aprendizaje por refuerzo.
- Optimizar los modelos de IA en términos de rendimiento, precisión y eficiencia.
- Implementar modelos personalizados en entornos de producción.
- Evaluar las mejoras de los modelos y garantizar su robustez.
Aplicaciones multimodales con Ollama
21 HorasOllama es una plataforma que permite ejecutar y ajustar finamente modelos de lenguaje grande y multimodales localmente.
Esta formación en vivo impartida por un instructor (en línea o presencial) está dirigida a ingenieros de ML de nivel avanzado, investigadores de IA y desarrolladores de productos que deseen construir e implementar aplicaciones multimodales con Ollama.
Al finalizar esta formación, los participantes podrán:
- Configurar y ejecutar modelos multimodales con Ollama.
- Integrar entradas de texto, imagen y audio para aplicaciones del mundo real.
- Construir sistemas de comprensión de documentos y preguntas visuales.
- Desarrollar agentes multimodales capaces de razonar a través de distintas modalidades.
Formato del curso
- Conferencia interactiva y debate.
- Práctica hands-on con conjuntos de datos multimodales reales.
- Implementación en laboratorio en vivo de pipelines multimodales utilizando Ollama.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinarlo.
Introducción a Ollama: Ejecución de Modelos de IA Locales
7 HorasEsta formación en vivo, impartida por un instructor, en Panama (en línea o presencial), está dirigida a profesionales principiantes que deseen instalar, configurar y utilizar Ollama para ejecutar modelos de IA en sus equipos locales.
Al finalizar esta formación, los participantes podrán:
- Comprender los fundamentos de Ollama y sus capacidades.
- Configurar Ollama para ejecutar modelos de IA locales.
- Implementar e interactuar con LLM mediante el uso de Ollama.
- Optimizar el rendimiento y el consumo de recursos para cargas de trabajo de IA.
- Explorar casos de uso para la implementación de IA local en diversas industrias.
Ollama y Privacidad de los Datos: Patrones de Despliegue Seguros
14 HorasOllama es una plataforma que permite ejecutar modelos de lenguaje grandes y multimodales de forma local, al mismo tiempo que soporta estrategias de despliegue seguras.
Esta formación en directo con un instructor (online o presencial) está dirigida a profesionales de nivel intermedio que deseen implementar Ollama con medidas sólidas de privacidad de datos y cumplimiento normativo.
Al finalizar esta formación, los participantes serán capaces de:
- Implementar Ollama de forma segura en entornos con contenedores y on-prem.
- Aplicar técnicas de privacidad diferencial para proteger datos sensibles.
- Implementar prácticas seguras de registro, monitoreo y auditoría.
- Hacer cumplir el control de acceso a los datos en concordancia con los requisitos de cumplimiento.
Formato del curso
- Clases interactivas y debates.
- Laboratorios prácticos con patrones de despliegue seguros.
- Casos de estudio centrados en el cumplimiento normativo y ejercicios prácticos.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, póngase en contacto con nosotros para organizarla.
Aplicaciones de Ollama en el sector financiero
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grandes (LLM) de forma local.
Esta formación impartida por un instructor, disponible en modalidad presencial u online, está dirigida a profesionales del sector financiero y al personal de TI de nivel intermedio que deseen implementar, personalizar y poner en operación soluciones de inteligencia artificial basadas en Ollama en entornos financieros.
Al completar esta formación, los participantes adquirirán las habilidades necesarias para:
- Desplegar y configurar Ollama para su uso seguro en operaciones financieras.
- Integrar LLMs locales en flujos de trabajo analíticos y de informes.
- Adaptar los modelos a la terminología y tareas específicas del sector financiero.
- Aplicar las mejores prácticas en seguridad, privacidad y cumplimiento normativo.
Formato del curso
- Conferencia interactiva y debate.
- Ejercicios prácticos con datos financieros.
- Implementación en laboratorio en vivo de escenarios enfocados en el sector financiero.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinarlo.
Aplicaciones de Ollama en el sector salud
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grandes (LLM) de forma local.
Esta formación en vivo, impartida por un instructor (en línea o presencial), está dirigida a profesionales del sector salud y equipos de TI de nivel intermedio que deseen implementar, personalizar y poner en operación soluciones de IA basadas en Ollama dentro de entornos clínicos y administrativos.
Al finalizar esta formación, los participantes podrán:
- Instalar y configurar Ollama para su uso seguro en entornos del sector salud.
- Integrar LLMs locales en flujos de trabajo clínicos y procesos administrativos.
- Personalizar modelos para terminología y tareas específicas del sector salud.
- Aplicar las mejores prácticas en materia de privacidad, seguridad y cumplimiento normativo.
Formato del curso
- Clase magistral interactiva y discusión.
- Demostraciones prácticas y ejercicios guiados.
- Implementación práctica en un entorno simulado de sector salud, aislado (sandbox).
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, contáctenos para coordinarlo.
Ollama: Modelos de Lenguaje Grande autoalojados que reemplazan las API de OpenAI y Claude
14 HorasOllama es una herramienta de código abierto para ejecutar modelos de lenguaje grande localmente en hardware de consumo y empresarial. Abstrae la cuantización de modelos, la asignación de GPU y el servicio de API en una única interfaz de línea de comandos, permitiendo a las organizaciones autoalojar LLM como Llama, Mistral y Qwen sin enviar prompts o datos a OpenAI, Anthropic o Google.
Ollama para una IA responsable y gobernanza
14 HorasOllama es una plataforma para ejecutar modelos de lenguaje grande (LLM) y multimodales de forma local, con soporte para prácticas de gobernanza e inteligencia artificial responsable.
Esta formación en vivo impartida por un instructor (en línea o presencial) está dirigida a profesionales de nivel intermedio a avanzado que desean implementar equidad, transparencia y rendición de cuentas en aplicaciones potenciadas por Ollama.
Al finalizar esta formación, los participantes serán capaces de:
- Aplicar principios de IA responsable en implementaciones de Ollama.
- Implementar estrategias de filtrado de contenido y mitigación de sesgos.
- Diseñar flujos de trabajo de gobernanza para la alineación y auditabilidad de la IA.
- Establecer marcos de monitoreo e informes para el cumplimiento normativo.
Formato del curso
- Conferencias interactivas y discusiones.
- Talleres prácticos de diseño de flujos de trabajo de gobernanza.
- Estudios de caso y ejercicios centrados en el cumplimiento.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, contáctenos para coordinarlo.
Domio del Prompt Engineering con Ollama
14 HorasOllama es una plataforma que permite ejecutar modelos de lenguaje grande y multimodales de forma local.
Esta formación en vivo, impartida por un instructor (en línea o presencial), está dirigida a profesionales de nivel intermedio que desean dominar las técnicas de prompt engineering para optimizar los resultados de Ollama.
Al finalizar esta formación, los participantes serán capaces de:
- Diseñar prompts eficaces para diversos casos de uso.
- Aplicar técnicas como la inducción inicial y la estructuración del pensamiento secuencial (chain-of-thought).
- Implementar plantillas de prompts y estrategias de gestión del contexto.
- Construir flujos de trabajo complejos mediante pipelines de prompts en múltiples etapas.
Formato del curso
- Conferencia interactiva y discusión.
- Ejercicios prácticos de diseño de prompts.
- Implementación práctica en un entorno de laboratorio en vivo.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinarla.