Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Despliegue de EXO fuera de línea
- Uso de EXO_OFFLINE para prevenir el acceso a Internet en tiempo de ejecución.
- Carga previa de modelos en EXO_MODELS_READ_ONLY_DIRS desde espejos internos confiables.
- Verificación de la integridad del peso del modelo con sumas de comprobación SHA-256 y tarjetas de modelo firmadas.
- Ejecución de EXO en redes aire-condicionadas sin dependencias de HuggingFace.
Control de acceso al panel de control y API
- Instalación y configuración de proxies inversos (nginx, Caddy) con terminación TLS.
- Implementación de control de acceso basado en roles para el panel de control de EXO y la REST API.
- Uso de la llavero de macOS o Linux pass para almacenar secretos para la autenticación de API.
- Restricción de puntos finales administrativos a rangos específicos de direcciones IP de origen.
Aislamiento del clúster y seguridad de red
- Segmentación de clústeres de EXO con EXO_LIBP2P_NAMESPACE y VLANs.
- Configuración de firewalls de host (firewall de aplicaciones de macOS, iptables, nftables) para puertos de EXO.
- Prevención del descubrimiento de dispositivos no autorizados y la inyección de nodos maliciosos.
- Cifrado del tráfico libp2p entre nodos cuando RDMA no está disponible.
Gobernanza y procedencia de modelos
- Construcción de un registro interno de modelos con listas de modelos aprobados y metadatos.
- Etiquetado y versionado de pesos cuantizados (4-bit, 8-bit) junto con puntos de control originales.
- Imposición de que solo repositorios específicos de HuggingFace o artefactos internos puedan ser cargados.
- Documentación de la linaje del modelo, términos de licencia y políticas de uso aceptable.
Auditoría de registros y cumplimiento
- Configuración de reenvío de registros de EXO a trazas de auditoría inmutables (SIEM, almacenamiento WORM).
- Correlación de logs de llamadas API con identidad de usuario y marca de tiempo.
- Captura de eventos de creación, eliminación y solicitud de inferencia de instancias de modelo.
- Generación de informes periódicos de cumplimiento para auditores internos y externos.
Modelado de amenazas y respuesta a incidentes
- Identificación de amenazas: exfiltración de datos mediante salidas del modelo, inyección de prompts, fugas por canales laterales.
- Implementación de canales de monitoreo de prompts y filtrado de contenido.
- Creación de libros de procedimientos para respuesta a incidentes en escenarios de compromiso del clúster.
- Aislamiento de nodos afectados, preservación de registros forenses y reconstrucción de entornos limpios.
Seguridad física y límites de hardware
- Protección de puertos Thunderbolt contra conexiones de cable RDMA no autorizadas.
- Uso de enclaves seguros y atestación de hardware Apple Silicon donde corresponda.
- Control del acceso físico a Macs en clúster y almacenamiento compartido.
- Documentación del ciclo de vida del hardware y procedimientos de desmantelamiento.
Consideraciones regulatorias
- Mapeo de despliegues de EXO a requisitos GDPR, HIPAA y SOC 2.
- Mantenimiento de la residencia de datos manteniendo la inferencia on-premise.
- Documentación de riesgos de la cadena de suministro del proveedor (MLX, EXO, pesos de modelos).
- Preparación para marcos de gobernanza de IA como el Artículo 53 del Reglamento de IA de la UE.
Requerimientos
- Experiencia con EXO u otro entorno de ejecución de LLM local.
- Comprensión de permisos del sistema de archivos Unix y ACLs de red.
- Familiaridad con la gestión de certificados TLS/SSL y conceptos básicos de cifrado.
Público objetivo
- Ingenieros de seguridad.
- Oficiales de cumplimiento.
- Administradores de infraestructura de IA que manejan datos sensibles.
14 Horas
Reseñas (1)
El instructor tenía un excelente conocimiento de FortiGate y entregó el contenido muy bien. Muchas gracias a Soroush.
Colin Donohue - Technological University of the Shannon: Midlands Midwest
Curso - FortiGate 7.4 Administration
Traducción Automática
