Google TabFM：零-shot 表格預測模型，行同列注意力交替運作，BigQuery 就快用到

Google Research 喺 2026 年 7 月 1 日正式推出 TabFM，一個專為表格數據而設嘅基礎模型。佢最犀利嘅地方係可以做到 零-shot 分類同回歸——即係話，就算係未見過嘅表格，TabFM 都唔使再訓練、唔使微調、甚至唔使做特徵工程，就咁一次前向傳播就俾到預測結果 。

TabFM 將表格預測重新包裝成一個「上下文學習」（in-context learning）問題：佢將成個數據集——包括晒歷史例子同目標行——當作一個完整嘅上下文提示，然後一次過產生預測 。

架構：交替行-列注意力

TabFM 採用嘅係一種 混合注意力（交替行-列）Transformer 架構 。同文字數據唔同，文字係一維嘅，但表格數據需要同時理解行同列之間嘅關係。TabFM 嘅做法係交替關注：

• 列方向注意力：捕捉特徵之間嘅依賴關係
• 行方向注意力：捕捉樣本之間嘅依賴關係

呢個兩階段機制會為行同列建立固定維度嘅嵌入表示，令模型可以喲推理時適應任意嘅表格結構 。呢個設計融合咗之前幾個表格基礎模型嘅優點，包括 TabPFN 風格嘅行/列注意力同 TabICL 風格嘅上下文學習 。

訓練：全靠合成數據

TabFM 嘅訓練 完全係用咗數以億計嘅合成數據集，而呢啲數據係由 結構因果模型（SCMs） 產生嘅 。咁做係為咗避開開放源碼表格數據嘅短缺同質素問題——好多現實世界嘅業務數據都含有敏感或專有資訊，唔可以隨便用嚟做大規模預訓練 。透過控制數據生成過程，Google 確保咗訓練語料庫足夠多樣同分佈均勻，完全唔使依賴真實嘅商業數據 。

TabArena 排名：頂尖成績

TabFM 嘅表現係喺 TabArena 上面驗證嘅。TabArena 係一個用緊 Elo 評分制、不斷更新嘅表格機器學習排行榜，公眾可以去 tabarena.ai 睇到 。根據 Google 公佈嘅結果：

• TabFM-Ensemble（用 32 個集成模型，加埋橫截面同 SVD 特徵）喺 TabArena 上達到頂尖成績，無論係分類定回歸任務都排第一 。
• TabFM-Single（唔用集成，只做一次前向傳播）都交出強勁嘅第二名成績，同之前嘅表格基礎模型（例如 TabPFN v2）以至調過參嘅梯度提升樹相比，都毫唔輸蝕 。

實際嘅 Elo 分數要睇即時排行榜狀況，但 Google 自己嘅圖表顯示 TabFM-Ensemble 喺分類同回歸兩個面板都排喺最頂 。截至 2026 年 7 月初，TabArena 分類排行榜上嘅最佳單一模型係 TabPFN-3（Elo 1721），而整體天花板係 AutoGluon extreme（4小時）呢類集成方法 。TabFM 嘅加入令到競爭格局出現咗新變化。

授權方式：雙重授權

TabFM 採用嘅係 雙重授權模式：

組件	授權	位置
模型權重	非商業授權	Hugging Face (google/tabfm-1.0.0-pytorch)
使用程式碼及範例	Apache 2.0	GitHub (google-research/tabfm)

模型權重係以非商業、源碼可用嘅授權方式發佈——即係話，按 OSI 定義或者 G7 喺 2026 年制訂嘅四層框架 嚟睇，佢 唔係完整嘅開放源碼。不過，推理程式碼同範例筆記本就採用較寬鬆嘅 Apache 2.0 授權 。呢個做法同 Google 其他研究模型（例如 Gemma，後來新版本轉用 Apache 2.0 ）類似，亦同 Prior Labs 發佈 TabPFN 模型權限嘅非商業條款一致 。

BigQuery 整合：經 AI.PREDICT 直接用

Google 計劃喺宣佈之後嘅 幾個星期內將 TabFM 直接整合入 BigQuery 。到時 BigQuery 用戶可以用 AI.PREDICT SQL 指令 嚟做零-shot 分類同回歸，語法模式同 BigQuery ML 現有嘅受管推理函數（例如 TimesFM 嘅 AI.FORECAST）類似 。預計語法係：

SELECT * FROM AI.PREDICT(
  MODEL tabfm,
  TABLE your_data
)

呢個整合會令到數據團隊可以直接喺 SQL 裡面用 TabFM 做預測，唔使再另外管理機器學習基建或者模型部署 。截至宣佈當日（2026 年 7 月 1 日），呢個整合仲係「即將推出」嘅狀態， BigQuery 嘅發佈說明仲未見到 。Google 嘅 BigQuery ML 生態系統已經有 TimesFM 嘅受管推理（AI.FORECAST）、自訂模型嘅 ML.PREDICT，同埋第三方 Hugging Face 開放模型嘅支援 ；TabFM 將會係第一個有內置 AI.PREDICT 快捷鍵嘅表格基礎模型。

幾點要注意

• Google Research 嘅官方網誌喺 2026 年 7 月 1 日先出 ，所以呢單嘢好新。部分細節——例如完整嘅學術論文、發佈時 TabArena 嘅即時分數、同 BigQuery 嘅具體推出時間表——仲可能有變。
• 截至呢篇文分析嘅時候，仲未有官方嘅 Google Research 論文或者 arXiv preprint。技術架構細節主要嚟自二手報導同網誌 。
• 目前 BigQuery ML 文件入面嘅 ML.PREDICT 功能係用另一個語法路徑嘅 ；TabFM 嘅 AI.PREDICT 語法可能係一個新嘅內置快捷鍵，類似 TimesFM 嘅 AI.FORECAST，但暫時未喺發佈說明入面見到。
• TabFM 嘅非商業權重授權會限制商業用途（除非另行約定），呢點可能會影響企業採用嘅計劃。