Het Neurale Netwerk Dat Bijna Niet Getraind Wordt, of Wat Reservoir Computing Is

In machine learning is de standaardpraktijk om alle netwerkgewichten te trainen via backpropagatie. Reservoir computing draait dit om: de meeste gewichten zijn willekeurig en vast, alleen de outputlaag wordt getraind. Dit is ingegeven door de moeilijkheid om recurrente neurale netwerken (RNN's) te trainen vanwege verdwijnende en exploderende gradiënten, waardoor lange-termijnafhankelijkheden slecht worden vastgelegd. Reservoir computing omzeilt dit volledig door geen gradiënten door recurrente gewichten te propageren. De architectuur bestaat uit een willekeurige invoermatrix, een groot willekeurig recurrent reservoir en een trainbare uitleeslaag. De reservoirstatus werkt als x(t) = tanh(W*x(t-1) + W_in*u(t)), en de output is y(t) = W_out*x(t). Het trainen van W_out gebeurt via ridge regressie, waarbij één enkele vergelijking wordt opgelost, waardoor het ordes van grootte sneller is dan het trainen van een LSTM. De belangrijkste voorwaarde is de echo state-eigenschap, die wordt gegarandeerd door de spectrale straal van de reservoirgewichtenmatrix onder 1 te houden. Het reservoir projecteert invoer naar een hoogdimensionale ruimte waarin patronen lineair scheidbaar worden. Reservoir computing werd onafhankelijk voorgesteld in 2001 door Herbert Jaeger als echo state-netwerken en in 2002 door Wolfgang Maass als vloeistofstaatsmachines; de term 'reservoir computing' werd later bedacht in 2005-2007. Fysieke reservoirs, zoals een emmer water, zijn ook gedemonstreerd. Toepassingen zijn onder meer chaotische systeemvoorspelling, spraakherkenning op embedded apparaten en robotbesturing. Beperkingen zijn onder meer handmatig afstemmen van reservoirlengte en spectrale straal, en slechte prestaties op zeer lange afhankelijkheden vergeleken met transformators. In recente jaren is reservoir computing minder prominent, maar relevant in fysieke AI en neuromorfe systemen zoals Intel Loihi 2.