La red neuronal que casi no se entrena, o qué es el reservoir computing

En el aprendizaje automático, la práctica estándar es entrenar todos los pesos de la red mediante retropropagación. La computación de reservorio invierte esto: la mayoría de los pesos son aleatorios y fijos, solo se entrena la capa de salida. Esto se debe a la dificultad de entrenar redes neuronales recurrentes (RNN) debido a los gradientes que desaparecen o explotan, donde las dependencias a largo plazo se capturan mal. La computación de reservorio evita esto por completo al no propagar gradientes a través de los pesos recurrentes. La arquitectura consiste en una matriz de entrada aleatoria, un gran reservorio recurrente aleatorio y una capa de lectura entrenable. El estado del reservorio se actualiza como x(t) = tanh(W*x(t-1) + W_in*u(t)), y la salida es y(t) = W_out*x(t). El entrenamiento de W_out se realiza mediante regresión de cresta, resolviendo una sola ecuación, lo que lo hace órdenes de magnitud más rápido que entrenar una LSTM. La condición clave es la propiedad de eco de estado, que se asegura estableciendo el radio espectral de la matriz de pesos del reservorio por debajo de 1. El reservorio proyecta la entrada a un espacio de alta dimensión donde los patrones se vuelven linealmente separables. La computación de reservorio fue propuesta de forma independiente en 2001 por Herbert Jaeger como redes de eco de estado y en 2002 por Wolfgang Maass como máquinas de estado líquido; el término "computación de reservorio" se acuñó más tarde, entre 2005 y 2007. También se han demostrado reservorios físicos, como un cubo de agua. Las aplicaciones incluyen predicción de sistemas caóticos, reconocimiento de voz en dispositivos integrados y control de robots. Las limitaciones incluyen el ajuste manual del tamaño del reservorio y el radio espectral, y un rendimiento deficiente en dependencias muy largas en comparación con los transformadores. En los últimos años, la computación de reservorio es menos prominente, pero relevante en IA física y sistemas neuromórficos como Intel Loihi 2.