Temario del curso

Fundamentos de la IA Segura y Justa

  • Conceptos clave: seguridad, sesgo, justicia, transparencia
  • Tipos de sesgo: en el conjunto de datos, representacional, algorítmico
  • Visión general de los marcos regulatorios (Ley de IA de la UE, RGPD, etc.)

Sesgo en Modelos Afinados

  • Cómo el afinamiento puede introducir o amplificar sesgos
  • Estudios de casos y fallos en el mundo real
  • Identificación de sesgos en conjuntos de datos y predicciones del modelo

Técnicas para la Mitigación de Sesgo

  • Estrategias a nivel de datos (rebalanceo, aumento)
  • Estrategias durante el entrenamiento (regularización, desviación adversaria)
  • Estrategias post-procesamiento (filtrado de salida, calibración)

Seguridad y Robustez del Modelo

  • Detección de salidas inseguras o perjudiciales
  • Manejo de entradas adversarias
  • Evaluación en equipo rojo y pruebas de estrés de modelos afinados

Auditoría y Monitoreo de Sistemas de IA

  • Métricas de evaluación de sesgo y justicia (por ejemplo, paridad demográfica)
  • Herramientas de explicabilidad y marcos de transparencia
  • Prácticas continuas de monitoreo y gobernanza

Kits de Herramientas y Práctica Práctica

  • Uso de bibliotecas de código abierto (por ejemplo, Fairlearn, Transformers, CheckList)
  • Práctica: Detección y mitigación de sesgos en un modelo afinado
  • Generación de salidas seguras a través del diseño de prompts y restricciones

Casos de Uso Empresariales y Preparación para el Cumplimiento Normativo

  • Prácticas recomendadas para integrar la seguridad en los flujos de trabajo de LLM
  • Documentación y tarjetas de modelos para el cumplimiento normativo
  • Preparación para auditorías y revisiones externas

Resumen y Pasos Siguientes

Requerimientos

  • Una comprensión de los modelos de aprendizaje automático y sus procesos de entrenamiento
  • Experiencia trabajando con el ajuste fino y los LLMs
  • Familiaridad con Python y conceptos de NLP

Audiencia

  • Equipos de cumplimiento de IA
  • Ingenieros de ML
 14 Horas

Número de participantes


Precio por Participante​

Próximos cursos

Categorías Relacionadas