Redes Neuronales Artificiales, Aprendizaje Automático y Pensamiento Profundo

DÍA 1 - REDES NEURONALES ARTIFICIALES

Introducción y estructura de las RNA.

• Neuronas biológicas y neuronas artificiales.
• Modelo de una RNA.
• Funciones de activación utilizadas en las RNA.
• Clases típicas de arquitecturas de red.

Fundamentos matemáticos y mecanismos de aprendizaje.

• Repaso del álgebra de vectores y matrices.
• Conceptos de espacio de estados.
• Conceptos de optimización.
• Aprendizaje de corrección de errores.
• Aprendizaje basado en memoria.
• Aprendizaje Hebbiano.
• Aprendizaje competitivo.

Perceptrones de capa simple.

• Estructura y aprendizaje de perceptrones.
• Clasificador de patrones: introducción y clasificadores de Bayes.
• El perceptrón como clasificador de patrones.
• Convergencia del perceptrón.
• Limitaciones de los perceptrones.

RNA de retroalimentación (Feedforward).

• Estructuras de redes Feedforward multicapa.
• Algoritmo de propagación inversa (Backpropagation).
• Propagación inversa: entrenamiento y convergencia.
• Aproximación funcional con propagación inversa.
• Aspectos prácticos y de diseño del aprendizaje por propagación inversa.

Redes de Funciones Base Radiales (RBF).

• Separabilidad e interpolación de patrones.
• Teoría de regularización.
• Regularización y redes RBF.
• Diseño y entrenamiento de redes RBF.
• Propiedades de aproximación de las RBF.

Aprendizaje competitivo y RNA autoorganizativas.

• Procedimientos generales de agrupamiento (clustering).
• Cuantización Vectorial de Aprendizaje (LVQ).
• Algoritmos y arquitecturas de aprendizaje competitivo.
• Mapas de características autoorganizativas.
• Propiedades de los mapas de características.

Redes Neuronales Difusas (Fuzzy).

• Sistemas neuro-difusos.
• Fundamentos de conjuntos difusos y lógica difusa.
• Diseño de sistemas difusos.
• Diseño de RNA difusas.

Aplicaciones

• Se discutirán algunos ejemplos de aplicaciones de Redes Neuronales, así como sus ventajas y problemas.

DÍA 2 - APRENDIZAJE AUTOMÁTICO

• Marco de Aprendizaje PAC
  • Garantías para conjuntos de hipótesis finitos: caso consistente
  • Garantías para conjuntos de hipótesis finitos: caso inconsistente
  • Generalidades
    • Escenarios deterministas frente a estocásticos
    • Ruido de error de Bayes
    • Errores de estimación y aproximación
    • Selección de modelo
• Complejidad de Rademacher y Dimensión VC
• Compensación sesgo-variación
• Regularización
• Sobreajuste (Overfitting)
• Validación
• Máquinas de Vectores de Soporte (SVM)
• Kriging (regresión de procesos gaussianos)
• PCA y PCA de Kernels
• Mapas de Autoorganización (SOM)
• Espacio vectorial inducido por Kernels
  • Kernels de Mercer y métricas de similitud inducidas por Kernels
• Aprendizaje por Refuerzo

DÍA 3 - APRENDIZAJE PROFUNDO

Este contenido se impartirá en relación con los temas cubiertos en el Día 1 y el Día 2

• Regresión Logística y Regresión Softmax
• Autoencodedores Esparcidos (Sparse)
• Vectorización, PCA y Blanqueamiento (Whitening)
• Aprendizaje Auto-enseñado (Self-Taught)
• Redes Profundas
• Decodificadores Lineales
• Convolución y Pooling
• Codificación Esparcida (Sparse Coding)
• Análisis de Componentes Independientes
• Análisis de Correlación Canónica
• Demos y Aplicaciones