10. Redes Neuronales Recurrentes

Las redes neuronales recurrentes son redes neuronales que dependen de los datos anteriores, es decir que tienen "memoria".

Por ejemplo, al predecir si una foto es un tipo de flor, no depende de lo que se haya predecido antes pero en una red neuronal si. Son redes que predicen secuencias de datos como por ejemplo series de temperatura, o cotizaciones de bolsa, etc:

Procesamiento de lenguaje natural (NLP):

Traducción automática: Las RNN se emplean para traducir texto de un idioma a otro, dado que las traducciones requieren una comprensión contextual de las secuencias de palabras.

Generación de texto: Pueden generar texto, completando frases o creando contenido basado en ejemplos previos, como en los modelos de lenguaje.

Análisis de sentimiento: Se utilizan para determinar si un texto tiene un sentimiento positivo, negativo o neutral.

Reconocimiento de voz:

Las RNN son comunes en los sistemas de reconocimiento automático de voz (ASR), donde deben entender las secuencias temporales de las ondas sonoras para convertirlas en texto.

Generación de música:

Se usan para generar música en formato MIDI, ya que las composiciones musicales tienen una estructura secuencial y temporal, similar al lenguaje.

Análisis de series temporales:

Predicción de la bolsa de valores: Se pueden emplear para predecir precios de acciones basados en datos históricos.

Pronóstico meteorológico: Utilizan series temporales de datos climáticos para prever el clima futuro.

Detección de anomalías: En sistemas de monitoreo de sensores, las RNN pueden identificar patrones inusuales en las series temporales.

Modelado de secuencias de video:

En aplicaciones de visión por computadora, las RNN pueden analizar secuencias de fotogramas para realizar tareas como la reconocimiento de acciones o segmentación de video.

Robótica:

Se usan para controlar robots en tareas que requieren la interpretación de secuencias temporales, como la navegación o el seguimiento de trayectorias en tiempo real.

Diagnóstico médico:

Análisis de secuencias de ECG o datos de sensores para detectar patrones relacionados con enfermedades o eventos de salud.

Sistemas de recomendación:

Pueden analizar el comportamiento pasado de un usuario (como en la navegación web o la compra de productos) para predecir lo que podría interesarle en el futuro.

Redes sociales:

En plataformas de redes sociales, las RNN se utilizan para analizar la evolución de los comentarios o publicaciones, predecir tendencias y generar recomendaciones personalizadas.

Para hacer este tipo de redes se usan nuevas capas que son:

RNN estándar: Son las redes recurrentes clásicas, pero tienen problemas en secuencias largas.

LSTM (Long Short-Term Memory): Son una mejora de las RNN estándar por lo que recuerdan lo que ocurre a largo plazo.

GRU (Gated Recurrent Unit): Parecidas a las LSTM pero más sencillas. Tienen la ventaja de que se entrenan con muchas menos épocas pero son peores si la relación a "obtener" es muy compleja.

En Keras las 3 capas se definen así:

Por ahora no vamos a contar como son estas neuronas pero su esquema es este:

Las fórmulas matemáticas de cada tipo de neurona se puede ver en RNN, LSTM & GRU

Más información:

Recurrent Neural Networks(RNN’s) and Time Series Forecasting

Time Series Classification Tutorial with LSTM Recurrent Neural Networks

All you Should Know About Datetime Variables in Python and Pandas

Modelos de Secuencia. Todo lo que necesitas es atención

Ejemplo

Vamos a hacer una red neuronal que dado 24 temperatura (una por cada hora) obtener la temperatura que hará 12 horas despues.

Vamos a generar una serie de datos temporales de temperaturas a lo largo del día y que cada día van aumentando.

Ahora los transformamos en la estructura que quiere Keras que es una matriz para cada dato. Fijarse que la y también es una matriz.

En nuestro ejemplo lo que hemos hecho es que para cada 24 temperaturas (tamanyo_ventana=24) , obtener la temperatura que habrá 12 horas después (adelanto_prediccion=12). Tambien hemos escalado los datos, lo cual es importante para que la red funcione mejor. Por último fíjate que tanto la x como la y son matrices x_entrenamiento.reshape(-1,tamanyo_ventana,1) y y_entrenamiento.reshape(-1,1)

Ahora vamos a crear la red y entrenarla

Fijarse que en las capas GRU hay que indicar return_sequences=True excepto en la última que debe ser return_sequences=False

Vamos a mostrar la gráfica de la pérdida en cada época

Para acabar vamos a mostrar 4 gráficos en la que se va a sobreponer los datos verdaderos y los predichos, tanto en entrenamiento como en validación.