TabFM de Google : le modèle zéro-shot qui révolutionne la prédiction sur données tabulaires

Architecture : attention alternée lignes-colonnes

TabFM utilise une architecture transformeur à attention hybride (alternée lignes-colonnes) . Contrairement aux données textuelles unidimensionnelles, les données tabulaires nécessitent de comprendre les relations à la fois entre lignes et colonnes. TabFM alterne l'attention entre :

• l'attention par colonne pour capturer les dépendances entre les caractéristiques
• l'attention par ligne pour capturer les dépendances entre les échantillons

Ce mécanisme en deux étapes construit des plongements de dimensions fixes pour les lignes et les colonnes, permettant au modèle de généraliser à des structures de tableaux arbitraires lors de l'inférence . L'approche combine des éléments de modèles fondation tabulaires antérieurs, dont l'attention lignes/colonnes de TabPFN et l'apprentissage contextuel de TabICL .

Entraînement exclusivement sur des données synthétiques

TabFM a été entraîné uniquement sur des centaines de millions de jeux de données synthétiques générés par des modèles causaux structurels (SCM) . Cette approche contourne les problèmes de rareté et de qualité des données tabulaires open source, dont une grande partie contient des informations sensibles ou propriétaires qui ne peuvent pas être librement utilisées pour un pré-entraînement à grande échelle . En contrôlant le processus de génération des données, Google a garanti un corpus d'entraînement diversifié et bien distribué sans recourir à des données commerciales réelles .

Classement TabArena : résultats de pointe

TabFM a été validé sur TabArena, un benchmark vivant classé par Elo pour les méthodes ML tabulaires, dont le classement public est disponible sur tabarena.ai . Selon les résultats rapportés par Google :

• TabFM-Ensemble (utilisant 32 ensembles avec caractéristiques transversales et SVD) atteint des résultats de pointe sur TabArena, menant le classement pour les tâches de classification et de régression .
• TabFM-Single (un seul passage avant sans ensemble) obtient une solide deuxième place, compétitive avec ou supérieure aux modèles fondation tabulaires antérieurs comme TabPFN v2 et les arbres à gradient boosté réglés .

Les scores Elo exacts dépendent de l'état en direct du classement, mais les propres graphiques de Google montrent TabFM-Ensemble en tête dans les deux panneaux de classification et de régression . Début juillet 2026, la meilleure position de modèle unique sur le classement de classification TabArena était détenue par TabPFN-3 (Elo 1721), les méthodes basées sur des ensembles comme AutoGluon extreme (4h) constituant le plafond global . L'entrée de TabFM modifie ce paysage concurrentiel.

Licence : modèle dual

TabFM utilise un modèle de licence dual :

Les poids du modèle sont publiés sous une licence non commerciale et source-accessible — ce qui signifie qu'ils ne sont pas entièrement open source selon la définition de l'OSI ou le cadre à quatre niveaux du G7 de 2026 . Le code d'inférence et les notebooks d'exemple, cependant, utilisent la licence permissive Apache 2.0 . Ce modèle reflète l'approche de Google avec d'autres modèles de recherche comme Gemma (qui est ensuite passé à Apache 2.0 pour les générations plus récentes ) et est cohérent avec la façon dont Prior Labs publie les poids des modèles TabPFN sous conditions non commerciales .

Intégration BigQuery via AI.PREDICT

Google prévoit d'intégrer directement TabFM dans BigQuery dans les semaines suivant l'annonce . Les utilisateurs de BigQuery pourront exécuter une classification et une régression zéro-shot en utilisant la commande SQL AI.PREDICT, suivant la syntaxe des fonctions d'inférence gérées existantes de BigQuery ML (similaire à AI.FORECAST pour TimesFM) . La syntaxe attendue est :

SELECT * FROM AI.PREDICT(
  MODEL tabfm,
  TABLE your_data
)

Cette intégration permettrait aux équipes data d'appliquer les prédictions de TabFM directement en SQL sans gérer d'infrastructure ML ou de déploiements de modèles séparés . À la date de l'annonce (1er juillet 2026), cette intégration était décrite comme imminente mais pas encore reflétée dans les notes de version de BigQuery . L'écosystème BigQuery ML existant de Google prend déjà en charge l'inférence gérée pour TimesFM (AI.FORECAST), les modèles personnalisés (ML.PREDICT) et les modèles open source tiers de Hugging Face ; TabFM serait le premier modèle fondation tabulaire à bénéficier d'un raccourci AI.PREDICT intégré.

Principales mises en garde

• Le billet de blog officiel de Google Research a été publié le 1er juillet 2026, ce qui est très récent . Certains détails — l'article académique complet, les scores TabArena exacts en direct au moment de la publication, et le calendrier précis de publication de BigQuery — peuvent encore évoluer.
• Aucun article officiel de Google Research ou prépublication arXiv n'était disponible publiquement au moment de cette analyse. Les détails techniques de l'architecture proviennent de reportages secondaires et du billet de blog .
• La fonction AI.PREDICT actuellement documentée pour BigQuery ML utilise ML.PREDICT avec un objet modèle enregistré ; la syntaxe AI.PREDICT pour TabFM pourrait être un nouveau raccourci intégré analogue à AI.FORECAST pour TimesFM, pas encore documenté dans les notes de version à ce jour.
• La licence non commerciale des poids de TabFM limite l'utilisation commerciale sans accord séparé, ce qui peut affecter les plans d'adoption en entreprise.