Les grands modèles tabulaires surpassent les LLM sur les données structurées
Google/DeepMind
Feedzai
Mastercard
Amazon Web Services
La startup Fundamental est sortie de la clandestinité avec son modèle tabulaire NEXUS, levant 275 millions de dollars. Le modèle est déjà utilisé par Amazon Web Services, tandis que Google et d'autres entreprises développent leurs propres grands modèles tabulaires (LTM) pour l'analyse de données tabulaires, une tâche où les LLM peinent.
Les grands modèles de langage (LLM) qui sont au cœur des chatbots génératifs peinent à analyser les données structurées en tableaux, pourtant le format de données principal des entreprises. La startup Fundamental a développé un nouveau modèle d'IA, le grand modèle tabulaire (LTM) NEXUS, conçu spécifiquement pour travailler avec des tableaux. Contrairement aux LLM, NEXUS modélise directement la structure des données tabulaires, en traitant non seulement les valeurs numériques mais aussi le contexte de leur signification et de leurs relations. Le modèle est pré-entraîné sur des milliards de tableaux et n'utilise pas de données clients. Amazon Web Services a intégré NEXUS dans Amazon SageMaker. Des concurrents sont également apparus : Google a lancé le modèle TabFM, tandis que Feedzai et Mastercard ont publié leurs propres LTM pour le secteur financier. Les chercheurs ont présenté les modèles FlexTab, TabICL et iLTM. Selon les experts, l'avenir est à l'analyse automatisée des données, qui pourrait être réalisée par des combinaisons de LLM et de LTM.
Source: IEEE Spectrum AI —
original