Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Fundamentos: Modelos de Amenaza para IA Agéntica
- Tipos de amenazas agénticas: uso indebido, escalación, fuga de datos y riesgos en la cadena de suministro.
- Perfiles de adversarios y capacidades de ataque específicas para agentes autónomos.
- Mapeo de activos, límites de confianza y puntos de control críticos para agentes.
Gobernanza, Políticas y Gestión de Riesgos
- Marcos de gobernanza para sistemas agénticos (roles, responsabilidades y puntos de aprobación).
- Diseño de políticas: uso aceptable, reglas de escalación, manejo de datos y auditabilidad.
- Consideraciones de cumplimiento y recopilación de evidencia para auditorías.
Identidad No Humana y Autenticación para Agentes
- Diseño de identidades para agentes: cuentas de servicio, JWTs y credenciales de corta duración.
- Patrones de acceso de mínimo privilegio y otorgamiento de credenciales bajo demanda (just-in-time).
- Ciclo de vida de la identidad, estrategias de rotación, delegación y revocación.
Controles de Acceso, Secretos y Protección de Datos
- Modelos de control de acceso granular y patrones basados en capacidades para agentes.
- Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos.
- Protección de fuentes de conocimiento sensibles y PII contra accesos no autorizados por agentes.
Observabilidad, Auditoría y Respuesta a Incidentes
- Diseño de telemetría para el comportamiento del agente: trazado de intenciones, registros de comandos y procedencia.
- Integración con SIEM, umbrales de alerta y preparación forense.
- Manuales y procedimientos para incidentes relacionados con agentes y contención.
Red-Teaming de Sistemas Agénticos
- Planificación de ejercicios de red-teaming: alcance, reglas de compromiso y conmutación por error segura.
- Técnicas adversarias: inyección de prompts, uso indebido de herramientas, manipulación del pensamiento paso a paso y abuso de API.
- Conducta de ataques controlados y medición de exposición e impacto.
endurecimiento y Mitigaciones
- Controles de ingeniería: límites de respuesta, gates de capacidades y sandboxing.
- Controles de política y orquestación: flujos de aprobación, humanos en el bucle y ganchos de gobernanza.
- Defensas a nivel de modelo y prompt: validación de entrada, canonización y filtros de salida.
Operacionalización de Implementaciones Seguras de Agentes
- Patrones de implementación: staging, canary y lanzamiento progresivo para agentes.
- Control de cambios, tuberías de pruebas y comprobaciones de seguridad previas a la implementación.
- Gobernanza multifuncional: manuales de juego para seguridad, legales, producto y operaciones.
Proyecto Final: Ejercicio Red-Team / Blue-Team
- Ejecutar un ataque simulado de red-team contra un entorno de agente en sandbox.
- Defender, detectar y remediar como equipo blue-team utilizando controles y telemetría.
- Presentar hallazgos, plan de remediación y actualizaciones de política.
Resumen y Próximos Pasos
Requerimientos
- Sólidos conocimientos en ingeniería de seguridad, administración de sistemas u operaciones en la nube.
- Familiaridad con conceptos de IA / ML y comportamiento de modelos de lenguaje grandes (LLM).
- Experiencia con gestión de identidades y accesos (IAM) y diseño seguro de sistemas.
Público Objetivo
- Ingenieros de seguridad y especialistas en red-teaming.
- Ingenieros de operaciones de IA y plataformas.
- Oficiales de cumplimiento y gestores de riesgos.
- Líderes de ingeniería responsables de la implementación de agentes.
21 Horas
