Trace as Teacher: Chắt lọc suy luận vào mô hình nhỏ
Meta
Một phương pháp huấn luyện trong đó mô hình lớn để lại dấu vết suy luận của nó, và mô hình nhỏ học từ những dấu vết này, cho phép chuyển giao khả năng suy luận logic sang các mạng nơ-ron nhỏ gọn.
Bản tin #898 của Sequence Knowledge thảo luận về một phương pháp có tên "Vết tích là Người thầy". Bản chất của cách tiếp cận này là một mô hình ngôn ngữ lớn, khi giải quyết một vấn đề, không chỉ tạo ra câu trả lời mà còn tạo ra một chuỗi các bước suy luận trung gian—một vết tích. Vết tích này sau đó được sử dụng làm tín hiệu huấn luyện cho một mô hình nhỏ, học không chỉ để tái tạo câu trả lời cuối cùng mà còn toàn bộ quá trình suy nghĩ. Bằng cách này, một mạng nơ-ron nhỏ gọn có được khả năng suy luận vốn chỉ có ở các mô hình lớn. Phương pháp này thuộc lĩnh vực chưng cất tri thức và cho phép giảm đáng kể kích thước mô hình mà không làm giảm chất lượng suy luận logic.
Nguồn: Meta AI (GNews) —
bản gốc