TabFM बनाम XGBoost: रिलीज़ में नहीं हैं ये 5 तथ्य

सर्गेई प्रोशचेव द्वारा लिखित यह लेख, जो फिनटेक और ई-कॉमर्स के टेक लीड हैं, TabFM पर चर्चा करता है, जो Google Research द्वारा 30 जून 2026 को जारी किया गया एक मॉडल है। TabFM एक तालिका को एकल संदर्भ के रूप में पढ़ता है, फ्रोजन वेट और इन-कॉन्टेक्स्ट लर्निंग का उपयोग करता है, जिससे आपके डेटा पर प्रशिक्षण की आवश्यकता समाप्त हो जाती है। यह समय श्रृंखला के लिए TimesFM का उत्तराधिकारी है और TabPFN (2022) की श्रेणी का अनुसरण करता है। मॉडल को सैकड़ों लाखों सिंथेटिक डेटासेट पर पूर्व-प्रशिक्षित किया गया था, जो संरचनात्मक कारण मॉडल (structural causal models) द्वारा उत्पन्न किए गए थे, न कि वास्तविक कॉर्पोरेट डेटा पर। लेख में बताया गया है कि scikit-learn रैपर में डिफ़ॉल्ट रूप से 500 फीचर्स और 100 संदर्भ पंक्तियों की सीमाएँ हैं, इसलिए यदि तालिका बड़ी है तो मॉडल नमूनाकरण करता है। यश राज पांडे द्वारा किए गए स्वतंत्र बेंचमार्क से पता चलता है कि TabFM छोटी और मध्यम तालिकाओं पर ट्यून किए गए XGBoost से बेहतर प्रदर्शन करता है, लेकिन कई सीड्स पर विचार करने पर कुछ जीत गायब हो गईं। लेख में मेमोरी समस्याओं का उल्लेख किया गया है: दावा किए गए 22.75 गीगाबाइट (GB) वीडियो मेमोरी में से अधिकांश XLA आवंटनकर्ता की कलाकृति थी, जबकि वास्तविक उपयोग लगभग 16.95 गीगाबाइट था; PyTorch में bf16 और एक्टिवेशन चंकिंग सक्षम करने से मेमोरी घटकर 3-7 गीगाबाइट हो गई। लेखक कई सीड्स और हाइपरपैरामीटर ट्यूनिंग के लिए समान बजट के साथ एक उचित मूल्यांकन प्रोटोकॉल का सुझाव देते हैं। लेख निष्कर्ष निकालता है कि TabFM आशाजनक है, लेकिन गंदी कॉर्पोरेट तालिकाओं और वितरण परिवर्तन पर इसका व्यवहार अज्ञात है, इसलिए अपने स्वयं के डेटा पर सत्यापन आवश्यक है।