Contacta con nosotros

Temario del curso

Fundamentos de una IA Segura e Imparcial

  • Conceptos clave: seguridad, sesgo, imparcialidad y transparencia.
  • Tipos de sesgo: en los datos de entrenamiento, de representación y algorítmico.
  • Resumen de marcos regulatorios (Reglamento de IA de la UE, GDPR, etc.).

Sesgo en Modelos Ajustados

  • Cómo el ajuste fino puede introducir o amplificar sesgos.
  • Estudios de caso y fracasos en el mundo real.
  • Identificación de sesgos en conjuntos de datos y predicciones del modelo.

Técnicas para la Mitigación de Sesgos

  • Estrategias a nivel de datos (rebalanceo, aumento de datos).
  • Estrategias durante el entrenamiento (regularización, desviación adversarial).
  • Estrategias posteriores al procesamiento (filtrado de salidas, calibración).

Seguridad y Robustez del Modelo

  • Detección de salidas no seguras o dañinas.
  • Gestión de entradas adversarias.
  • Evaluación mediante equipos rojos (red teaming) y pruebas de estrés en modelos ajustados.

Auditoría y Monitoreo de Sistemas de IA

  • Métricas de evaluación de sesgo e imparcialidad (p. ej., paridad demográfica).
  • Herramientas de explicabilidad y marcos de transparencia.
  • Prácticas de monitoreo continuo y gobernanza.

Complementos de Herramientas y Práctica Manual

  • Uso de bibliotecas de código abierto (p. ej., Fairlearn, Transformers, CheckList).
  • Práctica manual: Detección y mitigación de sesgos en un modelo ajustado.
  • Generación de salidas seguras mediante diseño de prompts y restricciones.

Casos de Uso Empresarial y Preparación para el Cumplimiento

  • Mejores prácticas para integrar la seguridad en los flujos de trabajo de LLM.
  • Documentación y fichas de modelos para fines de cumplimiento.
  • Preparación para auditorías y revisiones externas.

Resumen y Próximos Pasos

Requerimientos

  • Comprensión de los modelos de aprendizaje automático y los procesos de entrenamiento.
  • Experiencia trabajando con ajuste fino (fine-tuning) y modelos de lenguaje grandes (LLM).
  • Familiaridad con Python y conceptos de Procesamiento del Lenguaje Natural (NLP).

Público objetivo

  • Equipos de cumplimiento de IA.
  • Ingenieros de aprendizaje automático.
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas