Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Resumen de las Capacidades de Optimización de CANN
- Cómo se maneja el rendimiento de la inferencia en CANN
- Objetivos de optimización para sistemas de IA integrados y en el borde
- Comprensión del uso de AI Core y la asignación de memoria
Uso de Graph Engine para Análisis
- Introducción a Graph Engine y la tubería de ejecución
- Visualización de grafos de operadores y métricas en tiempo de ejecución
- Modificación de grafos computacionales para optimización
Herramientas de Análisis Perfiles y Métricas de Rendimiento
- Uso de la herramienta de análisis perfiles de CANN (profiler) para el análisis de cargas de trabajo
- Análisis del tiempo de ejecución de núcleos y cuellos de botella
- Perfileo del acceso a memoria y estrategias de división en bloques (tiling)
Desarrollo de Operadores Personalizados con TIK
- Resumen de TIK y el modelo de programación de operadores
- Implementación de un operador personalizado usando TIK DSL
- Prueba y evaluación del rendimiento del operador
Optimización Avanzada de Operadores con TVM
- Introducción a la integración de TVM con CANN
- Estrategias de autoajuste para grafos computacionales
- Cuándo y cómo cambiar entre TVM y TIK
Técnicas de Optimización de Memoria
- Gestión del diseño de memoria y colocación de búferes
- Técnicas para reducir el consumo de memoria en chip
- Mejores prácticas para ejecución asíncrona y reutilización
Implementación del Mundo Real y Casos de Estudio
- Caso de estudio: ajuste de rendimiento para la tubería de cámaras de smart city
- Caso de estudio: optimización de la pila de inferencia de vehículos autónomos
- Guías para el perfileo iterativo y la mejora continua
Resumen y Próximos Pasos
Requerimientos
- Fuerte comprensión de las arquitecturas de modelos de aprendizaje profundo y los flujos de trabajo de entrenamiento
- Experiencia en la implementación de modelos utilizando CANN, TensorFlow o PyTorch
- Conocimiento del CLI de Linux, scripts de shell y programación en Python
Público Objetivo
- Ingenieros de rendimiento de IA
- Especialistas en optimización de inferencia
- Desarrolladores que trabajan con IA en el borde o sistemas en tiempo real
14 Horas