EXPOSICIÓN

INTRODUCCIÓN

Este tema fuel la ultimo clase de la materia estas fueron exposiciones realizadas por los estudiante. El objetivo de la clase es reconocer los diferentes tipos de rede neuronales tenemos el percertrón unicapa multicaca el adeline las de base radial y asi muchos mas.

MARCO TEÓRICO

REDES DE NEURONAS DE BASE RADIAL

Las redes de neuronas de base radial son redes multicapa con conexiones hacia adelante, al igual que el PERCETRON multicapa.

Las redes de base radial se caracterizan porque están formadas por una única capa oculta y cada neurona  de esta capa posee un carácter local. Cada neurona oculta se activa en una región distinta del espacio de entrada. El carácter local se debe al uso de las funciones de base radial como funciones  de activación, generalmente la función gaussiana.

Las neuronas de salida realizan una combinación lineal de las activaciones  de las neuronas ocultas.

La mayor contribución a la teoría, diseño y aplicaciones de las redes de neuronas de base radial se debe a Moody y Darken (1989), Renals (1989), Poggio y Girossi (1990). Uno de los objetivos principales  era construir una red de neuronas que requiriese un menor tiempo de aprendizaje que el del PERCEPTRON multicapa.

Al igual que el PERCEPTRON multicapa, las redes de neuronas de base radial son aproximadores universales, en el sentido de que pueden aproximar cualquier  función continua sobre un compacto de R^n.

Las funciones de base radial (RBF) definen hiperesferas o hiperelipses  que dividen el espacio de entrada. Cada RBF (cada neurona) construye una aproximación local no lineal en una determinada región del espacio de entrada.

Se han aplicado a gran variedad de problemas:

– Análisis de series temporales

– Procesamiento de imágenes

– Reconocimiento automático del habla

– Diagnósticos médicos, etc

ARQUITECTURA DE LAS REDES DE BASE RADIAL

Cada red de base radial tiene 3 capas diferentes en total:

Capa de entrada: Transmiten las señales de entrada a las neuronas ocultas sin realizar procesamiento, es decir, las conexiones de la capa de entrada a la capa oculta no llevan pesos asociados.

Capa oculta: Realizan una transformación local y no lineal de dichas señales.

Capa de salida: Realiza una combinación lineal de las activaciones de las neuronas ocultas.

ACTIVACIONES DE LAS REDES DE BASE RADIAL

Dada una red de base radial con espacio de entrada de p dimensiones, espacio de salida de r dimensiones, m neuronas ocultas, las activaciones de las neuronas de salida para el patrón de entrada n serán:

Patrón de entrada: X(n)=(x1(n), x2(n),.... xp(n)), denotamos como yk(n), viene dadas por la siguiente expresión:

wik: peso de la conexión de la neurona oculta i a la de salida k

• φi(n): activación de la neurona oculta i

• uk : umbral de la neurona de salida k

Funciones de base radial determinan las activaciones de las neuronas ocultas en función del vector de entrada.

Φ: es una función de base radial

Ci=(ci1, c12, ...cip) son vectores: centros de las funciones de base radial

di: son números reales: desviaciones de las funciones

|| . ||: es la distancia euclídea desde el vector de entrada al centro de la función, definida como:

Funciones de base radial más habituales:

APRENDIZAJE DE LAS REDES DE BASE RADIAL

El proceso de aprendizaje implica la determinación de todos los parámetros que intervienen en la red de base radial. Estos son: los centros y las desviaciones de las neuronas ocultas y los pesos de la capa oculta a la capa de salida, así como los umbrales de las neuronas de salida.

Debido a que las capas de neuronas en una red de base radial realizan tareas diferentes, es razonable separar el proceso de optimización de los parámetros de la capa oculta y los de la capa de salida mediante la utilización de diferentes técnicas.

MÉTODO DE APRENDIZAJE HÍBRIDO

Realiza el aprendizaje en dos fases:

Fase no supervisada: determinación de los centros y amplitudes de  las neuronas de la capa oculta.

Fase supervisada: determinación de pesos y umbrales de la capa de  salida.

FASE NO SUPERVISADA

Puesto que las neuronas ocultas se caracterizan porque representan zonas diferentes del espacio de entradas, los centros y las desviaciones deben de ser calculados con este objetivo (clasificar el espacio de entradas en diferentes clases).

Determinación de los centros

El método más utilizado para la determinación de los centros es el algoritmo de K- medias.

Los pasos para la aplicación del algoritmo son los siguientes:

1.    Se inicializan aleatoriamente los centros de los K clusters (centroides)

2.    Se asignan Ni patrones de entrada a cada cluster i del siguiente modo

– El patrón X(n) pertenece al cluster i si

– Por tanto, cada cluster tendrá asociado un determinado número de patrones de entrada, aquellos más cercanos a su centroide

3. Se calcula la nueva posición de los centroides como la media de todos

los patrones que pertenecen al cluster, es decir:

4. Se repiten los pasos 2 y 3 hasta que las nuevas posiciones de los  centroides no se modifiquen respecto a su posición anterior, es decir  hasta que:

Determinación las Amplitudes

Se deben de calcular de manera que cada  neurona de la capa oculta se active en  una región del espacio de entradas y de  manera que el solapamiento de las zonas  de activación de una neurona sea lo más  ligero posible, para suavizar así la  interpolación.

Varias aproximaciones:

• Media Uniforme de las distancias euclídeas del centro Ci a los p centros más cercanos.

• Media geométrica de la distancia del centro a sus dos vecinos más cercanos

.

con Ct y Cs los más cercanos a Ci

FASE SUPERVISADA

En esta fase se calculan los pesos y umbrales de las neuronas de salida de la red; el objetivo es minimizar las diferencias entre las salidas de la red y  las salidas deseadas, el proceso de aprendizaje está guiado por la minimización de una función error computada en la salida de la red:

Como la salida de la red (yk) depende linealmente de los pesos, puede utilizarse un método directo (Método de la seudoinversa), o bien el método de mínimos cuadrados.

MÉTODO DE APRENDIZAJE TOTALMENTE SUPERVISADO

A diferencia con el método anterior, este tipo de aprendizaje no conserva, en principio, las propiedades o características locales de las redes de base radial. En este caso, todos los parámetros de la red, centros, amplitudes, pesos y umbrales, se determinan de manera completamente supervisada y con el objetivo de minimizar el error cuadrático medio.

En este proceso, en ningún momento se tiene en cuenta que las amplitudes alcancen valores tales que el solapamiento de las activaciones de las neuronas de la capa oculta sea lo más suave posible. Así que en principio, esa característica de localidad se puede perder.

Cálculo de parámetros:

BIBLIOGRAFÍA

Valls, J.2007, Redes de Neuronas. (En línea). ES. Formato PDF. Consultado, el 19 de Julio 2014. Disponible en: http://eva.evannai.inf.uc3m.es/et/docencia/rn-inf/documentacion/Tema4-RNBR.pdf

Isasi, P. Galván, I. 2004, Redes Neuronales Artificiales un Enfoque Práctico. ES. Formato PDF. Pág. 75 hasta la 99. Volumen 2.