TabFM ile XGBoost: Yayında Yer Almayan 5 Gerçek

Google Research, 30 Haziran 2026'da yayınladığı TabFM modelini duyurdu. FinTech ve E-ticaret alanında Tech Lead olan Sergey Proshchaev'in makalesi, bu modeli ele alıyor. TabFM, bir tabloyu tek bir bağlam olarak okuyor; donuk ağırlıklar ve bağlam içi öğrenme kullanarak verileriniz üzerinde eğitim gereksinimini ortadan kaldırıyor. Zaman serileri için TimesFM'in halefi olan model, TabPFN (2022) çizgisini izliyor. Model, gerçek kurumsal verilerle değil, yapısal nedensel modeller tarafından üretilen yüz milyonlarca sentetik veri setiyle önceden eğitilmiş durumda. Makale, scikit-learn sarmalayıcısının varsayılan olarak 500 özellik ve 100 bağlam satırı sınırına sahip olduğunu vurguluyor; bu nedenle tablo daha büyükse model örnekleme yapıyor. Yash Raj Pandey tarafından yapılan bağımsız kıyaslamalar, TabFM'in küçük ve orta ölçekli tablolarda ayarlanmış XGBoost'tan daha iyi performans gösterdiğini ortaya koyuyor; ancak bazı kazanımlar birden fazla tohum (seed) dikkate alındığında ortadan kalkıyor. Makale bellek sorunlarına dikkat çekiyor: iddia edilen 22,75 GB video belleğinin büyük kısmı bir XLA ayırıcı artefaktıydı; gerçek kullanım yaklaşık 16,95 GB civarındaydı. PyTorch'ta bf16 ve aktivasyon parçalama (chunking) etkinleştirildiğinde bellek 3-7 GB'a düşürüldü. Yazar, birden fazla tohum ve hiperparametre ayarlaması için eşit bütçeler içeren uygun bir değerlendirme protokolü öneriyor. Makale, TabFM'in umut verici olduğunu ancak kirli kurumsal tablolar ve dağılım kayması üzerindeki davranışının karakterize edilmediğini, bu nedenle kendi verileriniz üzerinde doğrulamanın şart olduğunu belirterek sona eriyor.