TabFM 対 XGBoost：リリースにない5つの事実

FinTech＆Eコマースのテックリードであるセルゲイ・プロシュチャエフによるこの記事では、Google Researchが2026年6月30日に公開したモデルTabFMについて論じています。TabFMはテーブルを単一のコンテキストとして読み取り、凍結された重みとインコンテキスト学習を使用することで、データに対するトレーニングを不要にします。これは時系列モデルTimesFMの後継であり、TabPFN（2022年）の系譜に連なるものです。このモデルは、何億もの合成データセットで事前学習されており、これらのデータセットは構造的因果モデルによって生成されたもので、実際の企業データではありません。記事では、scikit-learnラッパーのデフォルト制限が500特徴量と100コンテキスト行であるため、テーブルが大きい場合はモデルがサンプリングを行うことを強調しています。独立したベンチマーク（Yash Raj Pandeyによる）では、TabFMが小規模および中規模のテーブルで調整済みのXGBoostを上回ることを示していますが、複数のシードを考慮すると、いくつかの優位性は消えています。記事はメモリ問題にも言及しています。主張されている22.75 GBのビデオメモリは、実際にはXLAアロケータのアーティファクトであり、実際の使用量は約16.95 GBでした。PyTorchでbf16とアクティベーションのチャンク分割を有効にすると、メモリ使用量は3〜7 GBに削減されました。著者は、複数のシードとハイパーパラメータ調整のための等しい予算を用いた適切な評価プロトコルを提案しています。記事は、TabFMは有望ではあるものの、実際の企業テーブルや分布シフトに対する挙動は未解明であり、自社データでの検証が不可欠であると結論付けています。