Temario del curso
La IA en la Empresa: Perspectivas Estratégicas y Legales
- Adopción de la IA en las funciones comerciales principales: oportunidades y riesgos
- Responsabilidad ejecutiva en la gobernanza de la IA
- Sistemas de IA de alto riesgo y exposición organizacional
Clasificación de Riesgos de la IA y Panorama Regulatorio Global
- Ley de IA de la UE: niveles de riesgo, requisitos, sanciones
- Orden Ejecutiva de EE. UU. sobre la IA y normas federales/estatales emergentes
- Cumplimiento normativo relacionado con la IA dentro del GDPR, HIPAA y otros marcos
- Visión general de la norma ISO/IEC 42001, el NIST AI RMF y los Principios de IA de la OCDE
Seguridad y Supervisión de los Sistemas de IA
- Postura de seguridad de la IA: amenazas, vulnerabilidades y salvaguardas
- Respuesta a incidentes y notificación de brechas en flujos de trabajo impulsados por IA
- Auditoría y trazabilidad de los datos de entrada, decisiones y resultados de los modelos
Adquisición Responsable de la IA y Riesgos del Proveedor
- Debida diligencia al contratar herramientas de IA (incluidos LLM y APIs)
- Elementos clave del contrato: propiedad de los datos, explicabilidad del modelo, SLAs
- Evaluación de las afirmaciones de los proveedores: mitigación del sesgo, garantías de privacidad, seguridad
Marcos de Gobernanza Interna y Controles Organizativos
- Creación de políticas de uso de IA en todos los departamentos
- Comités de ética, juntas de revisión de riesgos y supervisión interfuncional
- Formación, documentación e integración del cumplimiento normativo
Evaluación de Casos de Uso y Escenarios de Riesgo
- Evaluación de casos de uso de alto impacto (por ejemplo, selección de recursos humanos, puntuación financiera, bots de atención al cliente)
- Herramientas y plantillas para evaluaciones de riesgo de IA
- Escenarios: desalineación, deriva (drift), alucinación, discriminación
Tendencias Emergentes y Consideraciones Futuras
- Anticipar la evolución regulatoria y la convergencia global
- Riesgos específicos de la Generative AI (IA generativa) y extensiones de gobernanza
- Escalamiento responsable de las operaciones de IA en la empresa
Resumen y Próximos Pasos
Requerimientos
- Comprensión de los marcos de riesgos empresariales, legales o tecnológicos
- Experiencia en liderazgo ejecutivo, ciberseguridad o supervisión del cumplimiento normativo
- No se requiere conocimiento técnico previo sobre el desarrollo de IA
Audiencia Objetivo
- Directores de Seguridad de la Información (CISO)
- Asesores legales y oficiales de cumplimiento
- Directores de Tecnología (CTO)
Testimonios (2)
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática