बेहतर LLM तर्क के लिए अनुमान-समय स्केलिंग की श्रेणियाँ
OpenAI
अनुमान-समय स्केलिंग अनुमान के दौरान अधिक कंप्यूट का उपयोग करके LLM उत्तर गुणवत्ता में सुधार करती है। यह लेख दृष्टिकोणों को वर्गीकृत करता है और हाल के पेपरों की समीक्षा करता है, जो दर्शाता है कि प्रमुख LLM प्रदाता ऐसी तकनीकों पर निर्भर हैं।
अनुमान-समय स्केलिंग अब अनुमान के दौरान अतिरिक्त कंप्यूट संसाधनों का उपयोग करके एलएलएम प्रदर्शन में सुधार की एक प्रमुख विधि बन गई है। लेख में तकनीकों को श्रेणियों में बांटा गया है, जैसे चेन-ऑफ-थॉट प्रॉम्प्टिंग, सेल्फ-कंसिस्टेंसी, बेस्ट-ऑफ-एन रैंकिंग, वेरिफायर के साथ रिजेक्शन सैंपलिंग, सेल्फ-रिफाइनमेंट और सॉल्यूशन पाथ पर सर्च। यह हाल के शोधपत्रों का अवलोकन भी प्रस्तुत करता है और नोट करता है कि मालिकाना एलएलएम इन विधियों का उपयोग करते हैं। लेखक ने इस विषय पर एक पुस्तक अध्याय को दो भागों में विभाजित किया है, जो प्रारंभिक पहुंच में उपलब्ध हैं, और अतिरिक्त विचार और नोट्स साझा करता है जो अंतिम अध्याय में शामिल नहीं हो सके।
स्रोत: Sebastian Raschka —
मूल