Contacta con nosotros

Temario del curso

Resumen de las Capacidades de Optimización de CANN

  • Cómo se maneja el rendimiento de la inferencia en CANN
  • Objetivos de optimización para sistemas de IA integrados y en el borde
  • Comprensión del uso de AI Core y la asignación de memoria

Uso de Graph Engine para Análisis

  • Introducción a Graph Engine y la tubería de ejecución
  • Visualización de grafos de operadores y métricas en tiempo de ejecución
  • Modificación de grafos computacionales para optimización

Herramientas de Análisis Perfiles y Métricas de Rendimiento

  • Uso de la herramienta de análisis perfiles de CANN (profiler) para el análisis de cargas de trabajo
  • Análisis del tiempo de ejecución de núcleos y cuellos de botella
  • Perfileo del acceso a memoria y estrategias de división en bloques (tiling)

Desarrollo de Operadores Personalizados con TIK

  • Resumen de TIK y el modelo de programación de operadores
  • Implementación de un operador personalizado usando TIK DSL
  • Prueba y evaluación del rendimiento del operador

Optimización Avanzada de Operadores con TVM

  • Introducción a la integración de TVM con CANN
  • Estrategias de autoajuste para grafos computacionales
  • Cuándo y cómo cambiar entre TVM y TIK

Técnicas de Optimización de Memoria

  • Gestión del diseño de memoria y colocación de búferes
  • Técnicas para reducir el consumo de memoria en chip
  • Mejores prácticas para ejecución asíncrona y reutilización

Implementación del Mundo Real y Casos de Estudio

  • Caso de estudio: ajuste de rendimiento para la tubería de cámaras de smart city
  • Caso de estudio: optimización de la pila de inferencia de vehículos autónomos
  • Guías para el perfileo iterativo y la mejora continua

Resumen y Próximos Pasos

Requerimientos

  • Fuerte comprensión de las arquitecturas de modelos de aprendizaje profundo y los flujos de trabajo de entrenamiento
  • Experiencia en la implementación de modelos utilizando CANN, TensorFlow o PyTorch
  • Conocimiento del CLI de Linux, scripts de shell y programación en Python

Público Objetivo

  • Ingenieros de rendimiento de IA
  • Especialistas en optimización de inferencia
  • Desarrolladores que trabajan con IA en el borde o sistemas en tiempo real
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas