Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
El Panorama de Amenazas de IA
- Por qué la seguridad de IA es diferente: no determinismo, razonamiento opaco e indicaciones como superficie de ataque.
- Taxonomía de ataques: ataques en tiempo de entrenamiento vs. tiempo de inferencia vs. cadena de suministro.
- Modelo del adversario de ML: quién ataca a los sistemas de IA y por qué.
OWASP Top 10 para Aplicaciones LLM
- Inyección de indicaciones: vectores de ataque directos e indirectos.
- Manejo inseguro de salidas y falsificación de solicitudes entre plugins.
- Envenenamiento de datos de entrenamiento y vulnerabilidades de la cadena de suministro.
- Denegación de servicio a modelos, divulgación de información sensible y exceso de agencia.
- Laboratorio práctico: explotando cada categoría OWASP contra una aplicación de prueba.
Pruebas de Infiltración para Inyección de Indicaciones y Jailbreak
- Taxonomía de técnicas de inyección: directa, indirecta, multi-turno y multimodal.
- Pruebas de infiltración automatizadas con Giskard, Garak y herramientas de fuzzing personalizadas.
- Clasificación de jailbreak y evaluación de defensas.
- Construcción de un marco (harness) de pruebas de infiltración para pruebas continuas de seguridad LLM.
Ataques y Defensas a Nivel de Modelo
- Extracción de modelos: robo de pesos y funcionalidad del modelo mediante consultas de API.
- Inferencia de membresía: determinar si los datos formaron parte del conjunto de entrenamiento.
- Ejemplos adversarios: perturbaciones que engañan a clasificadores e incrustaciones (embeddings).
- Envenenamiento de datos: corromper datos de entrenamiento para inducir puertas traseras o degradar el rendimiento.
Controles de Seguridad de Entrada y Salida
- Saneamiento de entrada que va más allá de las defensas web tradicionales.
- Filtrado de salida: toxicidad, filtración de datos personales (PII) y ejecución de código alucinado.
- Controles de seguridad (guardrails) como infraestructura de seguridad: NeMo, Guardrails AI y políticas personalizadas.
- Aplicación de salidas estructuradas como un límite de seguridad.
Seguridad de la Cadena de Suministro de IA
- Procedencia del modelo: verificar la autenticidad e integridad del modelo.
- Escaneo de dependencias para frameworks de ML y formatos de modelos.
- Servicio seguro de modelos: aislamiento en sandbox, aislamiento de red y acceso de mínimo privilegio.
- Verificación de modelos afinados y de la comunidad para malware integrado.
Seguridad Operativa para Sistemas de IA
- Control de acceso para puntos finales de modelos, almacenes vectoriales y herramientas de agentes.
- Registro de auditoría para cada interacción y decisión del modelo.
- Respuesta a incidentes específicos de IA: cuándo el propio modelo se ve comprometido.
- Pruebas de seguridad continuas en CI/CD para pipelines de ML.
Construcción de un Programa de Seguridad de IA
- Modelo de madurez y hoja de ruta para la seguridad de IA.
- Integración de la seguridad de IA en programas existentes de AppSec y seguridad en la nube.
- Marco de gobernanza y regulaciones emergentes para sistemas de IA.
- Creación y mantenimiento de un manual organizacional de seguridad de IA.
Requerimientos
- Experiencia desplegando modelos de ML o aplicaciones LLM en producción.
- Familiaridad con conceptos de seguridad, incluyendo autenticación, autorización y modelado de amenazas.
- Habilidad en Python para ejercicios de pruebas adversarias.
Público Objetivo
- Ingenieros de seguridad que se expanden hacia las superficies de amenaza de IA/ML.
- Ingenieros de ML responsables de la seguridad y robustez de los modelos.
- Miembros de equipos red team que están incorporando sistemas de IA en su alcance de pruebas.
14 Horas
