MIT ने पेश किया SEAL: स्व-सुधार करने वाली AI की ओर एक नया कदम
MIT
Meta
Alibaba/Qwen
OpenAI
DeepMind
MIT के शोधकर्ताओं ने SEAL (सेल्फ-अडैप्टिंग एलएलएम) प्रस्तावित किया है, जो एक ढांचा है जो बड़े भाषा मॉडल को सुदृढ़ीकरण सीखने के माध्यम से अपने वज़न को अद्यतन करने में सक्षम बनाता है। यह विधि प्रशिक्षण डेटा बनाने के लिए स्व-संपादन उत्पन्न करती है और नीचे की ओर के कार्यों पर प्रदर्शन में सुधार करती है। कुछ-शॉट सीखने और ज्ञान एकीकरण पर प्रयोगात्मक परिणाम आधार रेखाओं पर महत्वपूर्ण लाभ दिखाते हैं।
MIT के शोधकर्ताओं ने 'Self-Adapting Language Models' शीर्षक से एक शोधपत्र प्रकाशित किया है, जिसमें SEAL नामक एक ढांचा पेश किया गया है जो बड़े भाषा मॉडल (एलएलएम) को अपने स्वयं के वजन को अपडेट करने की अनुमति देता है। मॉडल स्व-संपादन के माध्यम से सिंथेटिक प्रशिक्षण डेटा उत्पन्न करता है, जिसे सुदृढीकरण सीखने के माध्यम से सीखा जाता है। पुरस्कार अपडेट किए गए मॉडल के डाउनस्ट्रीम प्रदर्शन पर आधारित होता है। Llama-3.2-1B-Instruct के साथ कुछ-शॉट लर्निंग पर प्रयोगों में 72.5% अनुकूलन सफलता दर हासिल हुई, जो बेसलाइन से कहीं अधिक है। Qwen2.5-7B के साथ ज्ञान एकीकरण में, SEAL ने लगातार बेसलाइन से बेहतर प्रदर्शन किया, कभी-कभी दो पुनरावृत्तियों के बाद GPT-4.1 द्वारा उत्पन्न डेटा से भी बेहतर प्रदर्शन किया। शोधपत्र में विनाशकारी भूलने और कम्प्यूटेशनल ओवरहेड जैसी सीमाओं पर प्रकाश डाला गया है। यह समय स्व-विकसित एआई में बढ़ती रुचि के साथ मेल खाता है, जिसमें साकाना एआई/यूबीसी, सीएमयू, एसजेटीयू, और सीयूएचके/वीवो के संबंधित कार्य, साथ ही ओपनएआई के सीईओ सैम ऑल्टमैन की टिप्पणियाँ शामिल हैं।
स्रोत: Synced —
मूल