A Rede Neural Quase Sem Treinamento, ou O Que é Computação por Reservatório

Em aprendizado de máquina, a prática padrão é treinar todos os pesos da rede por meio de retropropagação. A computação por reservatório inverte isso: a maioria dos pesos é aleatória e fixa, apenas a camada de saída é treinada. Isso se deve à dificuldade de treinar redes neurais recorrentes (RNNs) devido aos gradientes que desaparecem ou explodem, onde dependências de longo prazo são mal capturadas. A computação por reservatório contorna completamente esse problema ao não propagar gradientes através dos pesos recorrentes. A arquitetura consiste em uma matriz de entrada aleatória, um grande reservatório recorrente aleatório e uma camada de leitura treinável. O estado do reservatório é atualizado como x(t) = tanh(W*x(t-1) + W_in*u(t)), e a saída é y(t) = W_out*x(t). O treinamento de W_out é feito por regressão ridge, resolvendo uma única equação, o que a torna ordens de magnitude mais rápida do que treinar uma LSTM. A condição-chave é a propriedade de estado de eco, garantida ao definir o raio espectral da matriz de pesos do reservatório abaixo de 1. O reservatório projeta a entrada em um espaço de alta dimensão onde os padrões se tornam linearmente separáveis. A computação por reservatório foi proposta independentemente em 2001 por Herbert Jaeger como redes de estado de eco e em 2002 por Wolfgang Maass como máquinas de estado líquido; o termo 'computação por reservatório' foi cunhado mais tarde, entre 2005 e 2007. Reservatórios físicos, como um balde de água, também foram demonstrados. As aplicações incluem previsão de sistemas caóticos, reconhecimento de fala em dispositivos embarcados e controle de robôs. As limitações incluem o ajuste manual do tamanho do reservatório e do raio espectral, e desempenho ruim em dependências muito longas em comparação com transformadores. Nos últimos anos, a computação por reservatório é menos proeminente, mas relevante em IA física e sistemas neuromórficos como o Intel Loihi 2.