Temario del curso
Día 1
Anatomía de un Agente de IA Moderno
Más allá de los chatbots: los agentes como sistemas autónomos de razonamiento y acción
Paradigmas de agentes reactivos, proactivos, híbridos y orientados a objetivos
Componentes clave: percepción, planificación, memoria, uso de herramientas y ejecución de acciones
Compensaciones entre el diseño de sistemas con un agente único versus múltiples agentes
Frameworks para Agentes y el Stack Moderno
LangChain, LlamaIndex, AutoGen, CrewAI y sus respectivas compensaciones técnicas
Comparativa con frameworks clásicos como JADE y SPADE
Criterios para seleccionar un framework según los requisitos de producción
Llamada a herramientas, llamada a funciones y salidas estructuradas
Práctica: creación de la base (scaffolding) de un agente único en Python con llamadas a herramientas
Arquitecturas de Sistemas Multiagente
Diseños centralizados, descentralizados, híbridos y por capas para sistemas multiagente (MAS)
FIPA ACL, paso de mensajes y sus equivalentes modernos
Patrones de coordinación: planificación, negociación y sincronización
Comportamiento emergente y autoorganización en poblaciones de agentes
Toma de Decisiones y Aprendizaje en Agentes
Teoría de juegos para interacciones cooperativas y competitivas entre agentes
Aprendizaje por refuerzo en entornos multiagente
Aprendizaje por transferencia y compartición de conocimiento entre agentes
Resolución de conflictos y construcción de confianza entre agentes coordinados
Día 2
Fundamentos Multimodales para Agentes
IA multimodal como un flujo de trabajo unificado que abarca texto, imagen, voz y video
Principales modelos multimodales: GPT-4 Vision, Gemini, Claude, Whisper
Técnicas de fusión para combinar múltiples modalidades dentro del ciclo de razonamiento de un agente
Compensaciones entre latencia, costo y precisión en pipelines multimodales
Construcción de la Capa de Percepción
Procesamiento de imágenes para agentes: clasificación, generación de descripciones y detección de objetos
Reconocimiento de voz mediante ASR con Whisper y transcripción en tiempo real (streaming)
Síntesis de texto a voz e interacción con voz natural
Conexión de las salidas perceptivas al razonamiento impulsado por LLMs y la selección de herramientas
Práctica - Construcción de un Agente Multimodal en Python
Definición de la tarea, ventana de contexto e inventario de herramientas del agente
Conexión completa (end-to-end) de las APIs de GPT-4 Vision y Whisper
Implementación de memoria, estado y gestión de conversaciones
Agregado de llamadas a herramientas que generan efectos secundarios en el mundo real de manera segura
Práctica - Orquestación de un Sistema Multiagente
Composición de agentes especializados con AutoGen o CrewAI
Definición de roles, responsabilidades y protocolos de comunicación entre agentes
Distribución de recursos y coordinación en un entorno simulado
Registro del razonamiento, llamadas a herramientas y decisiones de los agentes para inspección y auditoría
Día 3
Superficie de Amenaza de Agentes de IA en Producción
Factores que hacen a la IA agéntica única e intrínsecamente vulnerable comparada con el software tradicional
Superficie de ataque: datos, modelo, prompt, herramienta, salida e interfaz
Modelado de amenazas para sistemas basados en agentes con uso autónomo de herramientas
Comparación entre prácticas de ciberseguridad de IA y la ciberseguridad tradicional
Práctica - Ataques Adversarios
Ejemplos adversarios y métodos de perturbación: FGSM, PGD, DeepFool
Escenarios de ataques black-box versus white-box
Ataques de inversión de modelos e inferencia de pertenencia a conjuntos de datos
Envenenamiento de datos e inyección de backdoors durante el entrenamiento
Inyección de prompts, técnicas de jailbreaking y mal uso de herramientas en agentes basados en LLMs
Técnicas Defensivas y Fortalecimiento del Modelo
Estrategias de entrenamiento adversario y aumento de datos
Destilación defensiva y otras técnicas de robustez
Preprocesamiento de entradas, enmascaramiento de gradientes y regularización
Privacidad diferencial, inyección de ruido y presupuestos de privacidad
Aprendizaje federado y agregación segura para entrenamiento distribuido
Práctica con Adversarial Robustness Toolbox
Simulación de ataques contra el agente multimodal desarrollado en el Día 2
Medición de la robustez bajo perturbación y cuantificación de la degradación del rendimiento
Aplicación iterativa de defensas y reevaluación de las tasas de éxito de los ataques
Puesta a prueba de las rutas de llamada a herramientas y vectores de inyección de prompts
Día 4
Marco de Gestión de Riesgos para IA
NIST AI Risk Management Framework: gobernar, mapear, medir y gestionar
ISO/IEC 42001 y estándares emergentes específicos para IA
Mapeo de riesgos de IA a los marcos GRC (Gobernanza, Riesgo y Cumplimiento) empresariales existentes
Requisitos de responsabilidad, auditabilidad y documentación en IA
Cumplimiento Regulatorio para Sistemas Agénticos
Ley de IA de la Unión Europea (EU AI Act): niveles de riesgo, usos prohibidos y obligaciones para sistemas de alto riesgo
Implicaciones del RGPD y la CCPA para los flujos de datos de agentes
Orden Ejecutiva de EE. UU. sobre una IA segura, confiable y fidedigna
Orientación sectorial específica para finanzas, salud y servicios públicos
Gestión de riesgos de terceros y uso de herramientas de IA por proveedores
Ética, Sesgo y Explicabilidad
Detección y mitigación de sesgos en la percepción y el razonamiento de los agentes
Explicabilidad y transparencia como propiedades relevantes para la seguridad
Equidad, daños secundarios y despliegue responsable
Diseño de comportamientos de agentes inclusivos y auditables
Despliegue en Producción, Monitoreo y Respuesta ante Incidentes
Patrones de despliegue seguro para sistemas de agentes individuales y multiagente
Monitoreo continuo para detectar deriva (drift), anomalías y abusos
Registro, trazas de auditoría y preparación forense para las acciones de los agentes
Planes de respuesta ante incidentes de seguridad en IA y procedimientos de recuperación
Casos de estudio sobre brechas reales de IA y lecciones aprendidas
Síntesis y Proyecto Final
Revisión del sistema multiagente multimodal construido a lo largo del curso
Revisión integral del pipeline: diseño, construcción, seguridad, gobernanza y despliegue
Autoevaluación del sistema frente a las funciones del marco NIST AI RMF
Perspectivas futuras sobre tendencias emergentes en IA agéntica y seguridad de la IA
Resumen y Próximos Pasos
Requerimientos
Público objetivo
Ingenieros y arquitectos de IA que desarrollan sistemas agénticos para entornos de producción. Profesionales de ciberseguridad, gestión de riesgos y cumplimiento responsables de la garantía de calidad en sistemas de IA dentro de industrias reguladas como finanzas, salud y consultoría. Desarrolladores senior y líderes de soluciones que integran capacidades multimodales y multiagente en plataformas empresariales.
Reseñas (3)
El instructor es paciente y muy útil. Conoce bien el tema.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Curso - Agentic AI for Business Automation: Use Cases & Integration
Traducción Automática
Buena mezcla de conocimiento y práctica
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curso - Agentic AI for Enterprise Applications
Traducción Automática
La mezcla de teoría y práctica, así como de perspectivas de alto y bajo nivel
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curso - Autonomous Decision-Making with Agentic AI
Traducción Automática
