Actividad No10. Mejoras al aprendizaje del perceptrón multicapa mediante retropropagación. Aprendizaje por descenso más pronunciado. Entrenamiento de una red neuronal con patrones de XOR.

Actividad No10. Mejoras al aprendizaje del perceptrón multicapa mediante retropropagación.  Aprendizaje por descenso más pronunciado. Entrenamiento de una red neuronal con patrones de XOR.

Tema: Mejoras al aprendizaje del perceptrón multicapa mediante retropropagación.  Aprendizaje por descenso más pronunciado. Entrenamiento de una red neuronal con patrones de XOR.


Objetivo:  Aprender hacer un aprendizaje por decenso más pronunciado

Introducción:

Un saldo cordial lector en este documento se hablará sobre como se hace el aprendizaje mas pronunciado. Asi el factor de aprendizaje es el mismo para todos los pesos. Iniciar el factor de aprendizaje con un valor y doblarlo cada época provoca a una actualización preliminar de los pesos.

El Error medio cuadrático MSE se calcula para los pesos actualizados que corresponden a la tasa de aprendizaje actual. Si el MSE no decrece con esta tasa de aprendizaje, los pesos retornan a sus valores originales, la tasa de aprendizaje se reduce a la mitad y se continúa el entrenamiento.

Si el MSE todavía no decrece, se parte el factor de aprendizaje a la mitad repetidamente hasta encontrar una tasa de aprendizaje que reduzca el MSE. En este punto el factor de aprendizaje es doblado otra vez y se inicia un nuevo paso. El proceso se repite una y otra vez. La búsqueda continúa en esta forma y termina dentro de un número predefinido de épocas de entrenamiento. Asi  podemos ver el sigueitne diagrama de flujo.

figura diagrama de flujo del el aprendizaje de una red neuronal por descenso más pronunciado.

descarga:

http://www.4shared.com/file/qiozCUYDba/Actividad_No10_1er_parcial.html