Das neuronale Netz, das fast nicht trainiert wird, oder was Reservoir Computing ist

Im maschinellen Lernen ist es Standardpraxis, alle Netzgewichte durch Backpropagation zu trainieren. Das Reservoir Computing dreht dies um: Die meisten Gewichte sind zufällig und fest, nur die Ausgabeschicht wird trainiert. Dies ist motiviert durch die Schwierigkeit, rekurrente neuronale Netze (RNNs) aufgrund verschwindender und explodierender Gradienten zu trainieren, bei denen langfristige Abhängigkeiten nur schlecht erfasst werden. Das Reservoir Computing umgeht dies vollständig, indem es keine Gradienten durch rekurrente Gewichte propagiert. Die Architektur besteht aus einer zufälligen Eingabematrix, einem großen zufälligen rekurrenten Reservoir und einer trainierbaren Ausleseschicht. Der Reservoirzustand wird aktualisiert als x(t) = tanh(W*x(t-1) + W_in*u(t)), und die Ausgabe ist y(t) = W_out*x(t). Das Training von W_out erfolgt über Ridge-Regression, wobei eine einzelne Gleichung gelöst wird, was es um Größenordnungen schneller macht als das Training eines LSTM. Die Schlüsselbedingung ist die Echo-State-Eigenschaft, die durch die Festlegung des Spektralradius der Reservoir-Gewichtsmatrix unter 1 sichergestellt wird. Das Reservoir projiziert Eingaben in einen hochdimensionalen Raum, in dem Muster linear trennbar werden. Das Reservoir Computing wurde unabhängig voneinander im Jahr 2001 von Herbert Jaeger als Echo-State-Netze und im Jahr 2002 von Wolfgang Maass als Liquid State Machines vorgeschlagen; der Begriff 'Reservoir Computing' wurde später, zwischen 2005 und 2007, geprägt. Es wurden auch physikalische Reservoire, wie ein Eimer Wasser, demonstriert. Zu den Anwendungen gehören die Vorhersage chaotischer Systeme, Spracherkennung auf eingebetteten Geräten und Robotersteuerung. Zu den Einschränkungen gehören die manuelle Abstimmung der Reservoirgröße und des Spektralradius sowie die schlechte Leistung bei sehr langen Abhängigkeiten im Vergleich zu Transformatoren. In den letzten Jahren ist das Reservoir Computing weniger prominent, aber relevant in der physischen KI und bei neuromorphen Systemen wie Intel Loihi 2.