Introducción a la Gestión de Confianza, Riesgo y Seguridad en IA (AI TRiSM)

AAISM es un marco avanzado para evaluar, gobernar y gestionar los riesgos de seguridad en sistemas de inteligencia artificial.

Esta formación en vivo impartida por instructores (en línea o presencial) está dirigida a profesionales de nivel avanzado que deseen implementar controles de seguridad efectivos y prácticas de gobierno para entornos empresariales de IA.

Al finalizar este programa, los participantes estarán preparados para:

• Evaluar los riesgos de seguridad de la IA utilizando metodologías reconocidas por la industria.
• Implementar modelos de gobierno para el despliegue responsable de la IA.
• Alinear las políticas de seguridad de la IA con los objetivos organizacionales y las expectativas regulatorias.
• Mejorar la resiliencia y la responsabilidad dentro de las operaciones impulsadas por IA.

Formato del curso

• Clases facilitadas respaldadas por análisis experto.
• Talleres prácticos y actividades basadas en evaluaciones.
• Ejercicios aplicados utilizando escenarios reales de gobierno de la IA.

Opciones de personalización del curso

• Para una formación adaptada a la estrategia de IA de su organización, contáctenos para personalizar el curso.

Esta formación presencial dirigida por un instructor en Panama (en línea o in situ) está dirigida a líderes empresariales de nivel intermedio que desean comprender cómo gobernar y asegurar los sistemas de IA de manera responsable y conforme a los marcos globales emergentes, como la Ley de IA de la UE, el Reglamento General de Protección de Datos (GDPR), la norma ISO/IEC 42001 y la Orden Ejecutiva de EE. UU. sobre IA.

Al finalizar esta formación, los participantes serán capaces de:

• Comprender los riesgos legales, éticos y regulatorios del uso de la IA en todos los departamentos.
• Interpretar y aplicar los principales marcos de gobernanza de IA (Ley de IA de la UE, NIST AI RMF, ISO/IEC 42001).
• Establecer políticas de seguridad, auditoría y supervisión para el despliegue de IA en la empresa.
• Desarrollar directrices de adquisición y uso para sistemas de IA de terceros e internos.

La Inteligencia Artificial (IA) introduce nuevas dimensiones de riesgo operativo, desafíos de gobernanza y exposición a ciberseguridad para las agencias y departamentos gubernamentales.

Esta formación en vivo con instructor (en línea o presencial) está dirigida a profesionales de TI y gestión de riesgos del sector público con poca experiencia previa en IA, que desean comprender cómo evaluar, monitorear y asegurar los sistemas de IA dentro de un contexto gubernamental o regulatorio.

Al finalizar esta formación, los participantes podrán:

• Interpretar los conceptos clave de riesgo relacionados con los sistemas de IA, incluido el sesgo, la imprevisibilidad y la deriva del modelo.
• Aplicar marcos específicos para la gobernanza y auditoría de IA, como el Marco de Gestión de Riesgos de IA (AI RMF) de NIST e ISO\/IEC 42001.
• Identificar amenazas cibernéticas dirigidas a modelos de IA y canalizaciones de datos.
• Establecer planes de gestión de riesgos interdepartamentales y alinear políticas para la implementación de IA.

Formato del Curso

• Clase interactiva y análisis de casos de uso del sector público.
• Ejercicios sobre marcos de gobernanza de IA y mapeo de políticas.
• Modelado de amenazas basado en escenarios y evaluación de riesgos.

Opciones de Personalización del Curso

• Para solicitar una formación personalizada para este curso, contáctenos para coordinarlo.

Este curso ofrece una introducción práctica para asegurar aplicaciones modernas impulsadas por IA, APIs, copilotos y agentes autónomos. Los participantes aprenden cómo la seguridad de la IA difiere de la seguridad web tradicional, exploran amenazas comunes específicas de la IA como la inyección de indicaciones (prompt injection), el envenenamiento de RAG y el abuso de agentes, y comprenden cómo proteger los sistemas de IA utilizando defensas en capas que incluyen WAFs, pasarelas de IA, seguridad de APIs y guardrails. A través de laboratorios prácticos y ejemplos del mundo real, los estudiantes adquieren las habilidades para identificar patrones de ataque de IA, asegurar aplicaciones basadas en LLM e implementar defensas efectivas en tiempo de ejecución (runtime) para entornos de producción.

Esta formación en vivo con instructor en Panama (en línea o presencial) está dirigida a desarrolladores de IA, arquitectos y gerentes de productos de nivel intermedio a avanzado que deseen identificar y mitigar los riesgos asociados con las aplicaciones impulsadas por LLM, como la inyección de instrucciones, la fuga de datos y las salidas no filtradas, al incorporar controles de seguridad como validación de entradas, supervisión humana en el proceso y barreras de protección en la salida.

Al final de esta formación, los participantes podrán:

• Comprender las vulnerabilidades principales de los sistemas basados en LLM.
• Aplicar principios de diseño seguro a la arquitectura de aplicaciones LLM.
• Utilizar herramientas como Guardrails AI y LangChain para validación, filtrado y seguridad.
• Integrar técnicas como el aislamiento (sandboxing), pruebas de penetración interna (red teaming) y revisión humana en el proceso dentro de pipelines listos para producción.

Este curso enseña a los desarrolladores de software cómo construir aplicaciones impulsadas por IA de forma segura desde el diseño. Los participantes aprenden a proteger chatbots, copilotos, pipelines de RAG y agentes de IA contra amenazas específicas de la IA como inyección de prompt, envenenamiento de datos, abuso de herramientas, fugas de secretos y salida de modelo insegura. El curso cubre el diseño seguro de prompts, seguridad en RAG, acceso de mínimo privilegio, barreras de seguridad (guardrails) y pruebas de red-teaming, ayudando a los desarrolladores a construir funciones de IA que sean seguras, fiables y resilientes en entornos reales.

Esta formación en vivo impartida por un instructor en Panama (en línea o presencial) está dirigida a profesionales intermedios de inteligencia artificial y ciberseguridad que desean comprender y abordar las vulnerabilidades específicas de seguridad de los modelos y sistemas de IA, particularmente en industrias altamente reguladas como la financiera, la gobernanza de datos y la consultoría.

Al finalizar esta formación, los participantes podrán:

• Comprender los tipos de ataques adversarios dirigidos a sistemas de IA y los métodos para defenderse contra ellos.
• Implementar técnicas de endurecimiento de modelos para asegurar los flujos de trabajo de aprendizaje automático.
• Asegurar la seguridad e integridad de los datos en los modelos de aprendizaje automático.
• Navegar por los requisitos de cumplimiento normativo relacionados con la seguridad de la IA.

Esta formación en vivo con un instructor en Panama (en línea o presencial) está dirigida a ingenieros de seguridad y oficiales de cumplimiento que desean endurecer los despliegues de EXO, controlar el acceso a modelos y gobernar cargas de trabajo de IA ejecutadas completamente on-premise.

Este entrenamiento en vivo con instructor en Panama (en línea o presencial) está dirigido a profesionales de nivel inicial en seguridad informática, gestión de riesgos y cumplimiento que desean comprender conceptos fundamentales de seguridad de IA, vectores de amenaza y marcos globales como NIST AI RMF e ISO/IEC 42001.

Al finalizar este entrenamiento, los participantes podrán:

• Comprender los riesgos de seguridad únicos introducidos por los sistemas de IA.
• Identificar vectores de amenaza como ataques adversarios, envenenamiento de datos e inversión de modelos.
• Aplicar modelos de gobernanza fundamentales como el Marco de Gestión de Riesgos de IA de NIST.
• Alinear el uso de la IA con estándares emergentes, directrices de cumplimiento y principios éticos.

Esta formación en vivo impartida por un instructor en Panama (en línea o en las instalaciones) está dirigida a ingenieros de seguridad y ML que necesitan identificar, probar y defenderse contra ataques a modelos de ML y aplicaciones impulsadas por LLM.

Basándose en las últimas directrices del Proyecto de Seguridad OWASP para IA Generativa, los participantes aprenderán a identificar, evaluar y mitigar amenazas específicas de la IA mediante ejercicios prácticos y escenarios del mundo real.

Esta formación en vivo con instructor en Panama (en línea o presencial) está dirigida a profesionales de nivel avanzado que deseen implementar y evaluar técnicas como el aprendizaje federado, la computación multipartita segura, la cifría homomórfica y la privacidad diferencial en canales reales de aprendizaje automático.

Al finalizar esta formación, los participantes serán capaces de:

• Comprender y comparar las técnicas clave de preservación de la privacidad en el ML.
• Implementar sistemas de aprendizaje federado utilizando frameworks de código abierto.
• Aplicar la privacidad diferencial para un intercambio seguro de datos y entrenamiento de modelos.
• Utilizar técnicas de cifrado y computación segura para proteger las entradas y salidas de los modelos.

Esta formación en vivo con instrucción directa en Panama (en línea o presencial) está dirigida a profesionales avanzados de seguridad y especialistas en IA que deseen simular ataques contra sistemas de IA, descubrir vulnerabilidades y mejorar la robustez de los modelos implementados.

Al finalizar esta formación, los participantes podrán:

• Simular amenazas del mundo real para modelos de aprendizaje automático.
• Generar ejemplos adversarios para evaluar la robustez del modelo.
• Evaluar la superficie de ataque de las APIs y canalizaciones de IA.
• Diseñar estrategias de Red Teaming para entornos de implementación de IA.

Esta formación en vivo con instructor en Panama (en línea o presencial) está dirigida a ingenieros y profesionales de seguridad de nivel intermedio que desean proteger los modelos de IA desplegados en el borde contra amenazas como la manipulación, filtraciones de datos, entradas adversarias y ataques físicos.

Al finalizar esta formación, los participantes serán capaces de:

• Identificar y evaluar riesgos de seguridad en implementaciones de IA en el borde.
• Aplicar técnicas de resistencia a la manipulación e inferencia cifrada.
• Fortalecer los modelos desplegados en el borde y asegurar los pipelines de datos.
• Implementar estrategias de mitigación de amenazas específicas para sistemas embebidos y restringidos.

Esta formación en vivo y dirigida por un instructor en Panama (en línea o presencial) está dirigida a profesionales de nivel intermedio en aprendizaje automático y ciberseguridad que desean comprender y mitigar las amenazas emergentes contra los modelos de IA, utilizando tanto marcos conceptuales como defensas prácticas, como el entrenamiento robusto y la privacidad diferencial.

Al finalizar esta formación, los participantes podrán:

• Identificar y clasificar amenazas específicas de la IA, como ataques adversarios, inversión y envenenamiento.
• Utilizar herramientas como el Adversarial Robustness Toolbox (ART) para simular ataques y probar modelos.
• Aplicar defensas prácticas, incluido el entrenamiento adversario, la inyección de ruido y técnicas que preservan la privacidad.
• Diseñar estrategias de evaluación de modelos conscientes de las amenazas en entornos de producción.