Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Duración 21 horas
Temario del curso
Fundamentos: Modelos de Amenazas para la IA Agéntica
- Tipos de amenazas agénticas: uso indebido, escalado, filtración de datos y riesgos de la cadena de suministro
- Perfiles de adversarios y capacidades de atacantes específicas para agentes autónomos
- Mapeo de activos, límites de confianza y puntos de control críticos para agentes
Gobernanza, Políticas y Gestión de Riesgos
- Marcos de gobernanza para sistemas agénticos (roles, responsabilidades, puertas de aprobación)
- Diseño de políticas: uso aceptable, reglas de escalado, manejo de datos y auditabilidad
- Consideraciones de cumplimiento normativo y recopilación de evidencia para auditorías
Identidad y Autenticación No Humanas para Agentes
- Diseño de identidades para agentes: cuentas de servicio, JWTs y credenciales de vida corta
- Patrones de acceso con menor privilegio y credencialización justa en tiempo (just-in-time)
- Estrategias de ciclo de vida de identidad, rotación, delegación y revocación
Controles de Acceso, Secretos y Protección de Datos
- Modelos de control de acceso granular y patrones basados en capacidades para agentes
- Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos
- Protección de fuentes de conocimiento sensibles y PII frente al acceso no autorizado de agentes
Observabilidad, Auditoría y Respuesta ante Incidentes
- Diseño de telemetría para el comportamiento de agentes: seguimiento de intención, registros de comandos y procedencia
- Integración con SIEM, umbrales de alertas y preparación forense
- Manuales de operación (runbooks) y guiones (playbooks) para incidentes relacionados con agentes y su contención
Red-Teaming de Sistemas Agénticos
- Planificación de ejercicios de red-team: alcance, reglas de participación y fallo seguro
- Técnicas adversariales: inyección de prompts, uso indebido de herramientas, manipulación de la cadena de razonamiento y abuso de API
- Realización de ataques controlados y medición de la exposición e impacto
Endurecimiento y Mitigaciones
- Controles de ingeniería: limitación de respuestas, control de capacidades y entorno aislado (sandboxing)
- Controles de política y orquestación: flujos de aprobación, intervención humana (human-in-the-loop) y ganchos de gobernanza
- Defensas a nivel de modelo y prompt: validación de entrada, normalización y filtros de salida
Operacionalización de Despliegues Seguros de Agentes
- Patrones de despliegue: staging, canary y despliegue progresivo para agentes
- Control de cambios, tuberías de pruebas y verificaciones de seguridad previas al despliegue
- Gobernanza interfuncional: guiones para seguridad, legal, producto y operaciones
Proyecto Final: Ejercicio de Equipo Rojo / Equipo Azul
- Ejecutar un ataque simulado de red-team contra un entorno de agentes en sandbox
- Defender, detectar y remediar como equipo azul utilizando controles y telemetría
- Presentar los hallazgos, el plan de remediación y las actualizaciones de política
Resumen y Próximos Pasos
Requerimientos
- Sólidos conocimientos en ingeniería de seguridad, administración de sistemas o operaciones en la nube
- Familiaridad con conceptos de IA/ML y el comportamiento de los modelos de lenguaje grandes (LLM)
- Experiencia en gestión de identidades y acceso (IAM) y diseño de sistemas seguros
Público Objetivo
- Ingenieros de seguridad y especialistas en red-teaming
- Ingenieros de operaciones de IA (AIOps) y de plataforma
- Oficiales de cumplimiento normativo y gerentes de riesgo
- Líderes de ingeniería responsables del despliegue de agentes
Reseñas (1)
el inventario y la identificación de las distintas exposiciones al riesgo en la IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Curso - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Traducción Automática