Ponte en Contacto
 Duración 21 horas

Temario del curso

Fundamentos: Modelos de Amenazas para la IA Agéntica

  • Tipos de amenazas agénticas: uso indebido, escalado, filtración de datos y riesgos de la cadena de suministro
  • Perfiles de adversarios y capacidades de atacantes específicas para agentes autónomos
  • Mapeo de activos, límites de confianza y puntos de control críticos para agentes

Gobernanza, Políticas y Gestión de Riesgos

  • Marcos de gobernanza para sistemas agénticos (roles, responsabilidades, puertas de aprobación)
  • Diseño de políticas: uso aceptable, reglas de escalado, manejo de datos y auditabilidad
  • Consideraciones de cumplimiento normativo y recopilación de evidencia para auditorías

Identidad y Autenticación No Humanas para Agentes

  • Diseño de identidades para agentes: cuentas de servicio, JWTs y credenciales de vida corta
  • Patrones de acceso con menor privilegio y credencialización justa en tiempo (just-in-time)
  • Estrategias de ciclo de vida de identidad, rotación, delegación y revocación

Controles de Acceso, Secretos y Protección de Datos

  • Modelos de control de acceso granular y patrones basados en capacidades para agentes
  • Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos
  • Protección de fuentes de conocimiento sensibles y PII frente al acceso no autorizado de agentes

Observabilidad, Auditoría y Respuesta ante Incidentes

  • Diseño de telemetría para el comportamiento de agentes: seguimiento de intención, registros de comandos y procedencia
  • Integración con SIEM, umbrales de alertas y preparación forense
  • Manuales de operación (runbooks) y guiones (playbooks) para incidentes relacionados con agentes y su contención

Red-Teaming de Sistemas Agénticos

  • Planificación de ejercicios de red-team: alcance, reglas de participación y fallo seguro
  • Técnicas adversariales: inyección de prompts, uso indebido de herramientas, manipulación de la cadena de razonamiento y abuso de API
  • Realización de ataques controlados y medición de la exposición e impacto

Endurecimiento y Mitigaciones

  • Controles de ingeniería: limitación de respuestas, control de capacidades y entorno aislado (sandboxing)
  • Controles de política y orquestación: flujos de aprobación, intervención humana (human-in-the-loop) y ganchos de gobernanza
  • Defensas a nivel de modelo y prompt: validación de entrada, normalización y filtros de salida

Operacionalización de Despliegues Seguros de Agentes

  • Patrones de despliegue: staging, canary y despliegue progresivo para agentes
  • Control de cambios, tuberías de pruebas y verificaciones de seguridad previas al despliegue
  • Gobernanza interfuncional: guiones para seguridad, legal, producto y operaciones

Proyecto Final: Ejercicio de Equipo Rojo / Equipo Azul

  • Ejecutar un ataque simulado de red-team contra un entorno de agentes en sandbox
  • Defender, detectar y remediar como equipo azul utilizando controles y telemetría
  • Presentar los hallazgos, el plan de remediación y las actualizaciones de política

Resumen y Próximos Pasos

Requerimientos

  • Sólidos conocimientos en ingeniería de seguridad, administración de sistemas o operaciones en la nube
  • Familiaridad con conceptos de IA/ML y el comportamiento de los modelos de lenguaje grandes (LLM)
  • Experiencia en gestión de identidades y acceso (IAM) y diseño de sistemas seguros

Público Objetivo

  • Ingenieros de seguridad y especialistas en red-teaming
  • Ingenieros de operaciones de IA (AIOps) y de plataforma
  • Oficiales de cumplimiento normativo y gerentes de riesgo
  • Líderes de ingeniería responsables del despliegue de agentes

Número de participantes


Precio por participante

Reseñas (1)

Próximos cursos

Categorías Relacionadas