Google, Sıfır Atışlı Öğrenme ile Tablo Verileri için Temel Model TabFM'i Tanıttı
Google/DeepMind
Google Research, sıfır atışlı bağlam içi öğrenme kullanarak manuel eğitim veya özellik mühendisliği gerektirmeden sınıflandırma ve regresyon yapabilen TabFM adlı bir temel modeli duyurdu. Model, tamamen yapısal nedensel modeller aracılığıyla oluşturulan yüz milyonlarca sentetik veri seti üzerinde eğitildi ve TabArena kıyaslamasında XGBoost gibi geleneksel algoritmalardan daha iyi performans gösteriyor. TabFM, Google BigQuery'ye entegre edilecek ve kullanıcıların basit bir SQL komutuyla tahminler çalıştırmasına olanak tanıyacak.
Google Research, tabular veri sınıflandırma ve regresyonu için özel olarak tasarlanmış yeni bir temel model olan TabFM'yi tanıttı. Model, bağlam içi öğrenme (in-context learning - ICL) yaklaşımını kullanarak tüm veri setini birleşik bir istem olarak ele alır ve çıkarım sırasında sütunlar ve satırlar arasındaki ilişkileri yorumlar; bu sayede hiperparametre ayarlama ve özellik mühendisliği ihtiyacını ortadan kaldırır. TabFM, TabPFN ve TabICL gibi mimarilerin güçlü yönlerini, tabloların iki boyutlu ve sırasız yapısını ele almak için yeni bir hibrit tasarımda sentezler. Tamamen yapısal nedensel modeller (structural causal models - SCMs) kullanılarak oluşturulan yüz milyonlarca sentetik veri seti üzerinde eğitilen TabFM, daha önce görülmemiş gerçek dünya verilerine iyi bir şekilde genelleme yapar. 38 sınıflandırma ve 13 regresyon veri setini kapsayan TabArena kıyaslamasında değerlendirilen model, XGBoost gibi ağır şekilde ayarlanmış denetimli algoritmaları sürekli olarak geride bırakır. TabFM, Google BigQuery'ye entegre edilecek ve kullanıcıların basit bir AI.PREDICT SQL komutuyla ileri düzey regresyon ve sınıflandırma yapmasına olanak tanıyacak.
Kaynak: Google Research —
orijinal
