TabFM versus XGBoost: 5 feiten die niet in de release staan

Het artikel van Sergey Proshchaev, een Tech Lead uit FinTech & E-commerce, bespreekt TabFM, een model dat op 30 juni 2026 door Google Research is uitgebracht. TabFM leest een tabel als één enkele context, gebruikt bevroren gewichten en in-context leren, waardoor training op uw gegevens niet nodig is. Het is de opvolger van TimesFM voor tijdreeksen en volgt de lijn van TabPFN (2022). Het model is voorgetraind op honderden miljoenen synthetische datasets die zijn gegenereerd door structurele causale modellen, niet op echte bedrijfsgegevens. Het artikel benadrukt dat de scikit-learn-wrapper standaardlimieten heeft van 500 kenmerken en 100 contextrijen, dus het model samplet als de tabel groter is. Onafhankelijke benchmarks door Yash Raj Pandey laten zien dat TabFM beter presteert dan afgestelde XGBoost op kleine en middelgrote tabellen, maar sommige overwinningen verdwenen wanneer meerdere seeds in overweging werden genomen. Het artikel merkt geheugenproblemen op: de geclaimde 22,75 GB aan videogeheugen was grotendeels een artefact van de XLA-allocator, met een werkelijk gebruik van ongeveer 16,95 GB; het inschakelen van bf16 en activatie-chunking in PyTorch verminderde het geheugengebruik tot 3-7 GB. De auteur stelt een goed evaluatieprotocol voor met meerdere seeds en gelijke budgetten voor hyperparameterafstemming. Het artikel concludeert dat hoewel TabFM veelbelovend is, het gedrag op rommelige bedrijfstabellen en distributiedrift niet is gekarakteriseerd, dus validatie op uw eigen gegevens is essentieel.