Mạng Nơ-ron Gần Như Không Huấn Luyện, hay Reservoir Computing Là Gì

Trong học máy, quy trình chuẩn là huấn luyện tất cả các trọng số của mạng thông qua lan truyền ngược. Reservoir computing đảo ngược điều này: hầu hết các trọng số là ngẫu nhiên và cố định, chỉ có lớp đầu ra được huấn luyện. Điều này xuất phát từ khó khăn khi huấn luyện các mạng nơ-ron hồi quy (RNN) do hiện tượng biến mất và bùng nổ gradient, khiến các phụ thuộc dài hạn không được nắm bắt tốt. Reservoir computing hoàn toàn tránh được vấn đề này bằng cách không lan truyền gradient qua các trọng số hồi quy. Kiến trúc bao gồm một ma trận đầu vào ngẫu nhiên, một hồ chứa hồi quy ngẫu nhiên lớn, và một lớp đọc ra có thể huấn luyện. Trạng thái của hồ chứa cập nhật theo công thức x(t) = tanh(W*x(t-1) + W_in*u(t)), và đầu ra là y(t) = W_out*x(t). Việc huấn luyện W_out được thực hiện bằng hồi quy ridge, giải một phương trình duy nhất, giúp nhanh hơn nhiều lần so với việc huấn luyện một mạng LSTM. Điều kiện quan trọng là thuộc tính echo state, được đảm bảo bằng cách đặt bán kính phổ của ma trận trọng số hồ chứa dưới 1. Hồ chứa chiếu đầu vào vào một không gian chiều cao nơi các mẫu trở nên phân tách tuyến tính. Reservoir computing được đề xuất độc lập vào năm 2001 bởi Herbert Jaeger dưới tên mạng echo state và năm 2002 bởi Wolfgang Maass dưới tên máy trạng thái lỏng; thuật ngữ 'reservoir computing' được đặt ra sau đó vào khoảng 2005-2007. Các hồ chứa vật lý, chẳng hạn như một xô nước, cũng đã được chứng minh. Các ứng dụng bao gồm dự đoán hệ thống hỗn loạn, nhận dạng giọng nói trên các thiết bị nhúng, và điều khiển robot. Những hạn chế bao gồm việc phải điều chỉnh thủ công kích thước hồ chứa và bán kính phổ, và hiệu suất kém trên các phụ thuộc rất dài so với transformer. Trong những năm gần đây, reservoir computing ít nổi bật hơn, nhưng vẫn có liên quan trong AI vật lý và các hệ thống neuromorphic như Intel Loihi 2.