1 Redes Neuronales Artificiales Entrenamiento por Retropropagación del Error-Backpropagation Dr. Pedro Ponce Cruz EGIA-MCI

2 Consultar Libro de TextoInteligencia Artificial con aplicaciones a la ingeniería

3 Redes multicapa Las redes multicapa que se entrenan con el método de Backpropagation requieren de encontrar el valor del error que se define como la diferencia del valor deseado y el valor de salida. Es una topología de entrenamiento supervisado

4 Si definimos la red multicapa, empleando 6 neuronasCada neurona se compone de una función de activación

5 La función sigmoidal se define comoLa función Sigmoidal es de las más empleadas dentro de las redes multicapa La función sigmoidal se define como Dentro de cada neurona se tiene el valor de x que se presenta en la función Sigmoidal como la sumatoria de los pesos por las entradas

6 Función Sigmoidal y su derivadaEncontrando la derivada f’(x)

7 Las derivadas de las funciones empleadas en redes multicapas se puede resumir

8 Graficas de la función sigmoidal y su derivada

9 Evaluación de entradas en una red multicapa

10 Representación grafica del método Backpropagation

11 Representación grafica del método Backpropagation

12 Deducción de la regla de entrenamiento BackpropagationDefiniendo el gradiente del error con respecto a los pesos.

13 Deducción de la regla de entrenamiento BackpropagationDonde

14 Backpropagation si δ es la sensibilidad del error

15 Backpropagation Para una función sigmoidalRegla para la capa de salida , se tiene el valor deseado (d), en está capa

16 Capas intermedias

17 Capas intermedias

18 Regla general para todas las capas ocultas

19 Ejemplo de Backpropagation

20 Algoritmo backpropagationPasos 1- Definir la estructura de la Red Paso 2- Poner pesos de manera aleatoria en cada neurona Paso 3- Calcular la salida de la Red Paso 4- Calcular Coef. De Sensibilidad del error Paso 5-Calcular nuevos pesos Paso 6- Regresar al paso 3 si no se alcanzar la tolerancia o número de iteraciones , en otro caso detener algoritmo