Le réseau de neurones qui est presque non entraîné, ou ce qu'est le calcul par réservoir

En apprentissage automatique, la pratique standard consiste à entraîner tous les poids du réseau par rétropropagation. Le calcul par réservoir inverse cette approche : la plupart des poids sont aléatoires et fixes, seule la couche de sortie est entraînée. Cela est motivé par la difficulté d'entraîner les réseaux de neurones récurrents (RNN) en raison des problèmes de disparition et d'explosion des gradients, où les dépendances à long terme sont mal capturées. Le calcul par réservoir contourne entièrement ce problème en ne propageant pas les gradients à travers les poids récurrents. L'architecture se compose d'une matrice d'entrée aléatoire, d'un grand réservoir récurrent aléatoire et d'une couche de lecture entraînable. L'état du réservoir se met à jour avec x(t) = tanh(W*x(t-1) + W_in*u(t)), et la sortie est y(t) = W_out*x(t). L'entraînement de W_out se fait par régression ridge, en résolvant une seule équation, ce qui le rend des ordres de grandeur plus rapide que l'entraînement d'un LSTM. La condition clé est la propriété d'écho, garantie en fixant le rayon spectral de la matrice des poids du réservoir en dessous de 1. Le réservoir projette l'entrée dans un espace de haute dimension où les motifs deviennent linéairement séparables. Le calcul par réservoir a été proposé indépendamment en 2001 par Herbert Jaeger sous le nom de réseaux d'écho d'état, et en 2002 par Wolfgang Maass sous le nom de machines à états liquides ; le terme « calcul par réservoir » a été inventé plus tard, entre 2005 et 2007. Des réservoirs physiques, comme un seau d'eau, ont également été démontrés. Les applications incluent la prédiction de systèmes chaotiques, la reconnaissance vocale sur des appareils embarqués et le contrôle de robots. Les limites incluent le réglage manuel de la taille du réservoir et du rayon spectral, ainsi que des performances médiocres sur des dépendances très longues par rapport aux transformeurs. Ces dernières années, le calcul par réservoir est moins en vue, mais reste pertinent dans l'IA physique et les systèmes neuromorphiques comme Intel Loihi 2.