1 Redes Neuronales Artificiales 3 - Perceptrones Dr. Juan José Flores Romero División de Estudios de Posgrado Facultad de Ingeniería Eléctrica [email protected] http://lsc.fie.umich.mx/~juan/ http://lsc.fie.umich.mx/~juan/Materias/ANN

2 Curso Redes Neuronales Artificiales CONTENIDO  Introducción  Aprendizaje  Perceptrones mono-nivel  Perceptrones multi-nivel  Otras Arquitecturas

3 Separación Lineal Perceptrones Monocapa Condición crítica de clasificación: Para 2-D: Despejando: Tutorial Matlab: ch 2 – 1 ch 2 – 2 ch 3 – 1

4 Separación Lineal Hyperplanos

5 Separación Lineal Enfoque Vectorial Condición crítica de clasificación:

6 Aprendizaje Falso Negativo Conjunto de Entrenamiento: {v,t} Supongamos que t=1, pero y=0 Necesitamos que w apunte en dirección de v Con cambios no muy bruscos

7 Aprendizaje Falso Positivo Ahora supongamos que t=0, pero y=1 Necesitamos que w apunte en dirección de -v Con cambios no muy bruscos

8 Aprendizaje Generalización t=1, y=0 t=0, y=1 Repeat para cada (v, t) y=f(v) if y  t calcular w’ until y=t para todo el TS Tutorial Matlab: ch 4 – 1 ch 4 – 2

9 Clasificadores con +2 Clases

10  Clases linealmente separables  Separables por hyperplanos

11 Clases No Separables Linealmente

12 Tutorial Matlab: ch 11 – 1

13 Regla Delta

14 Regla Delta - Multicapa BACKPROP: La neurona oculta j es responsable de parte del error  i

15 Algoritmo BackPropagation

16 Learning Tutorial Matlab: ch 10 – 3 ch 11 – 2 ch 11 – 3

17 Overfitting – Demasiadas Neuronas

18 Overfitting – Mala Generalización

19 Mínimos Locales

20 Momento Si el incremento en t es positivo y en t+1 también, el paso en t+1 es mayor Si en t el incremento es positivo y en t+1 es negativo, el paso en t+1 es menor Si el incremento en t es positivo y en t+1 también, el paso en t+1 es mayor Si en t el incremento es positivo y en t+1 es negativo, el paso en t+1 es menor