TabFM đối đầu XGBoost: 5 sự thật không có trong bản phát hành

Bài viết của Sergey Proshchaev, một Tech Lead trong lĩnh vực FinTech & E-commerce, thảo luận về TabFM, một mô hình được Google Research phát hành vào ngày 30 tháng 6 năm 2026. TabFM đọc một bảng dữ liệu như một ngữ cảnh duy nhất, sử dụng trọng số đóng băng và học trong ngữ cảnh, loại bỏ nhu cầu huấn luyện trên dữ liệu của bạn. Đây là phiên bản kế nhiệm của TimesFM cho chuỗi thời gian và nối tiếp dòng TabPFN (2022). Mô hình được tiền huấn luyện trên hàng trăm triệu tập dữ liệu tổng hợp được tạo ra bởi các mô hình nhân quả cấu trúc, không phải trên dữ liệu doanh nghiệp thực tế. Bài viết nhấn mạnh rằng trình bao bọc scikit-learn có giới hạn mặc định là 500 đặc trưng và 100 hàng ngữ cảnh, vì vậy mô hình sẽ lấy mẫu nếu bảng lớn hơn. Các điểm chuẩn độc lập của Yash Raj Pandey cho thấy TabFM vượt trội so với XGBoost đã được tinh chỉnh trên các bảng dữ liệu nhỏ và vừa, nhưng một số chiến thắng biến mất khi xem xét nhiều hạt giống. Bài viết ghi nhận các vấn đề về bộ nhớ: dung lượng bộ nhớ video 22,75 GB được công bố chủ yếu là một hiện tượng giả của trình phân bổ XLA, mức sử dụng thực tế khoảng 16,95 GB; việc bật bf16 và phân đoạn kích hoạt trong PyTorch đã giảm bộ nhớ xuống còn 3-7 GB. Tác giả đề xuất một quy trình đánh giá phù hợp với nhiều hạt giống và ngân sách bằng nhau cho việc tinh chỉnh siêu tham số. Bài viết kết luận rằng mặc dù TabFM cho thấy triển vọng, hành vi của nó trên các bảng dữ liệu doanh nghiệp lộn xộn và sự thay đổi phân phối vẫn chưa được mô tả đầy đủ, vì vậy việc xác thực trên dữ liệu của riêng bạn là cần thiết.