Contacta con nosotros

Temario del curso

Descripción general de la Arquitectura del LLM y Superficie de Ataque

  • Cómo se construyen, despliegan y acceden a los LLM a través de APIs.
  • Componentes clave en las stacks de aplicaciones LLM (por ejemplo, instrucciones, agentes, memoria, APIs).
  • Dónde y cómo surgen los problemas de seguridad en el uso real.

Inyección de Instrucciones y Ataques de Jailbreak

  • Qué es la inyección de instrucciones y por qué es peligrosa.
  • Escenarios de inyección directa e indirecta de instrucciones.
  • Técnicas de jailbreaking para eludir filtros de seguridad.
  • Estrategias de detección y mitigación.

Fuga de Datos y Riesgos de Privacidad

  • Exposición accidental de datos a través de las respuestas.
  • Fugas de información personal identificable (PII) y mal uso de la memoria del modelo.
  • Diseño de instrucciones conscientes de la privacidad y generación aumentada por recuperación (RAG).

Filtrado y Protección de la Salida del LLM

  • Uso de Guardrails AI para el filtrado y validación de contenido.
  • Definición de esquemas y restricciones de salida.
  • Monitoreo y registro de salidas no seguras.

Enfoques con Supervisión Humana en el Proceso

  • Dónde y cuándo introducir supervisión humana.
  • Colas de aprobación, umbrales de puntuación y manejo de respuestas alternativas.
  • Calibración de la confianza y el papel de la explicabilidad.

Patrones de Diseño Seguro para Aplicaciones LLM

  • Principio de mínimo privilegio y aislamiento (sandboxing) para llamadas a APIs y agentes.
  • Límites de velocidad, control de tráfico y detección de abuso.
  • Cadenas robustas con LangChain y aislamiento de instrucciones.

Cumplimiento, Registro y Gobernanza

  • Garantizar la auditablez de las salidas del LLM.
  • Mantener la trazabilidad y el control de versiones de instrucciones.
  • Alinear con las políticas de seguridad internas y necesidades regulatorias.

Resumen y Próximos Pasos

Requerimientos

  • Conocimiento sobre grandes modelos de lenguaje e interfaces basadas en instrucciones.
  • Experiencia desarrollando aplicaciones LLM utilizando Python.
  • Familiaridad con integraciones de API y despliegues basados en la nube.

Audiencia Objetivo

  • Desarrolladores de IA.
  • Arquitectos de aplicaciones y soluciones.
  • Gerentes de producto técnicos que trabajen con herramientas LLM.
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas