Архітектура: чергування уваги до рядків і стовпців

TabFM використовує гібридну архітектуру трансформера з чергуванням уваги (alternating row-column attention) . На відміну від текстових даних, які є одномірними, табличні дані вимагають одночасного розуміння зв'язків як між рядками, так і між стовпцями. TabFM чергує увагу між:

• Увагою до стовпців (column-wise attention) для захоплення залежностей між ознаками
• Увагою до рядків (row-wise attention) для захоплення залежностей між зразками

Цей двоетапний механізм будує фіксовані векторні представлення рядків і стовпців, дозволяючи моделі узагальнювати на довільні структури таблиць під час інференсу . Підхід поєднує елементи з попередніх фундаментальних табличних моделей, зокрема увагу до рядків/стовпців від TabPFN та навчання в контексті від TabICL .

Тренування виключно на синтетичних даних

TabFM тренували виключно на сотнях мільйонів синтетичних наборів даних, згенерованих структурними причинними моделями (SCM — structural causal models) . Цей підхід дозволяє обійти проблеми дефіциту та якості відкритих табличних даних, значна частина яких містить чутливу або приватну інформацію, що не може вільно використовуватися для масштабного попереднього тренування . Контролюючи процес генерації даних, Google забезпечила різноманітний і збалансований тренувальний корпус без використання реальних бізнес-даних .

Рейтинг у TabArena: найкращі результати

TabFM було протестовано на TabArena — живому бенчмарку з рейтингом Elo для табличних методів машинного навчання, який має публічну таблицю лідерів на сайті tabarena.ai . Згідно з оприлюдненими результатами Google:

• TabFM-Ensemble (з використанням 32 ансамблів, крос-секційних та SVD-ознак) досягає найкращих результатів на TabArena, лідируючи в таблиці лідерів як для завдань класифікації, так і для регресії .
• TabFM-Single (один прямий прохід без ансамблю) демонструє сильний другий результат, конкуруючи з або перевершуючи попередні фундаментальні табличні моделі, такі як TabPFN v2, та налаштовані градієнтні бустінги .

Точні показники Elo залежать від поточного стану таблиці лідерів, але власні дані Google показують TabFM-Ensemble на першому місці як у панелі класифікації, так і регресії . Станом на початок липня 2026 року найкращу позицію серед окремих моделей у таблиці лідерів класифікації TabArena займав TabPFN-3 (Elo 1721), при цьому методи на основі ансамблів, як-от AutoGluon extreme (4h), були загальною стелею . Поява TabFM змінює цю конкурентну картину.

Ліцензування: подвійна модель

TabFM використовує подвійну модель ліцензування:

Ваги моделі випущено під некомерційною ліцензією з доступним вихідним кодом — це означає, що вони не є повністю відкритими згідно з визначенням OSI або чотирирівневою рамкою G7 від 2026 року . Код для інференсу та зразкові ноутбуки, однак, використовують дозвільну ліцензію Apache 2.0 . Така модель повторює підхід Google до інших дослідницьких моделей, як-от Gemma (яка пізніше перейшла на Apache 2.0 для нових поколінь ), і узгоджується з тим, як Prior Labs випускає ваги моделі TabPFN на некомерційних умовах .

Інтеграція з BigQuery через AI.PREDICT

Google планує безпосередньо інтегрувати TabFM у BigQuery протягом кількох тижнів після анонсу . Користувачі BigQuery зможуть виконувати нульове навчання для класифікації та регресії за допомогою SQL-команди AI.PREDICT, дотримуючись синтаксису, подібного до існуючих функцій керованого інференсу BigQuery ML (наприклад, AI.FORECAST для TimesFM) . Очікуваний синтаксис:

SELECT * FROM AI.PREDICT(
  MODEL tabfm,
  TABLE your_data
)

Ця інтеграція дозволить командам даних застосовувати прогнози TabFM безпосередньо в SQL, без необхідності управляти окремою ML-інфраструктурою або розгортаннями моделей . Станом на дату анонсу (1 липня 2026 року) цю інтеграцію описували як неминучу, але вона ще не була відображена в примітках до випуску BigQuery . Існуюча екосистема BigQuery ML вже підтримує керований інференс для TimesFM (AI.FORECAST), власних моделей (ML.PREDICT) та сторонніх відкритих моделей з Hugging Face ; TabFM стане першою фундаментальною табличною моделлю, яка отримає вбудований ярлик AI.PREDICT.

Ключові застереження

• Офіційний блог-пост Google Research було опубліковано 1 липня 2026 року, тобто це дуже свіжа новина . Деякі деталі — повна наукова стаття, точні показники TabArena на момент випуску та точний графік випуску BigQuery — можуть ще змінюватися.
• На момент аналізу не було доступно жодної офіційної наукової статті Google Research або препринту на arXiv. Деталі технічної архітектури походять із вторинних звітів і блог-посту .
• Функція AI.PREDICT, наразі задокументована для BigQuery ML, використовує ML.PREDICT із зареєстрованим об'єктом моделі ; синтаксис AI.PREDICT для TabFM може бути новим вбудованим ярликом, аналогічним AI.FORECAST для TimesFM, який ще не задокументовано в примітках до випуску.
• Некомерційна ліцензія на ваги TabFM обмежує комерційне використання без окремої угоди, що може вплинути на плани корпоративного впровадження.

Архітектура: чергування уваги до рядків і стовпців

TabFM використовує гібридну архітектуру трансформера з чергуванням уваги (alternating row-column attention) . На відміну від текстових даних, які є одномірними, табличні дані вимагають одночасного розуміння зв'язків як між рядками, так і між стовпцями. TabFM чергує увагу між:

• Увагою до стовпців (column-wise attention) для захоплення залежностей між ознаками
• Увагою до рядків (row-wise attention) для захоплення залежностей між зразками

Цей двоетапний механізм будує фіксовані векторні представлення рядків і стовпців, дозволяючи моделі узагальнювати на довільні структури таблиць під час інференсу . Підхід поєднує елементи з попередніх фундаментальних табличних моделей, зокрема увагу до рядків/стовпців від TabPFN та навчання в контексті від TabICL .

Тренування виключно на синтетичних даних

TabFM тренували виключно на сотнях мільйонів синтетичних наборів даних, згенерованих структурними причинними моделями (SCM — structural causal models) . Цей підхід дозволяє обійти проблеми дефіциту та якості відкритих табличних даних, значна частина яких містить чутливу або приватну інформацію, що не може вільно використовуватися для масштабного попереднього тренування . Контролюючи процес генерації даних, Google забезпечила різноманітний і збалансований тренувальний корпус без використання реальних бізнес-даних .

Рейтинг у TabArena: найкращі результати

TabFM було протестовано на TabArena — живому бенчмарку з рейтингом Elo для табличних методів машинного навчання, який має публічну таблицю лідерів на сайті tabarena.ai . Згідно з оприлюдненими результатами Google:

• TabFM-Ensemble (з використанням 32 ансамблів, крос-секційних та SVD-ознак) досягає найкращих результатів на TabArena, лідируючи в таблиці лідерів як для завдань класифікації, так і для регресії .
• TabFM-Single (один прямий прохід без ансамблю) демонструє сильний другий результат, конкуруючи з або перевершуючи попередні фундаментальні табличні моделі, такі як TabPFN v2, та налаштовані градієнтні бустінги .

Точні показники Elo залежать від поточного стану таблиці лідерів, але власні дані Google показують TabFM-Ensemble на першому місці як у панелі класифікації, так і регресії . Станом на початок липня 2026 року найкращу позицію серед окремих моделей у таблиці лідерів класифікації TabArena займав TabPFN-3 (Elo 1721), при цьому методи на основі ансамблів, як-от AutoGluon extreme (4h), були загальною стелею . Поява TabFM змінює цю конкурентну картину.

Ліцензування: подвійна модель

TabFM використовує подвійну модель ліцензування:

Ваги моделі випущено під некомерційною ліцензією з доступним вихідним кодом — це означає, що вони не є повністю відкритими згідно з визначенням OSI або чотирирівневою рамкою G7 від 2026 року . Код для інференсу та зразкові ноутбуки, однак, використовують дозвільну ліцензію Apache 2.0 . Така модель повторює підхід Google до інших дослідницьких моделей, як-от Gemma (яка пізніше перейшла на Apache 2.0 для нових поколінь ), і узгоджується з тим, як Prior Labs випускає ваги моделі TabPFN на некомерційних умовах .

Інтеграція з BigQuery через AI.PREDICT

Google планує безпосередньо інтегрувати TabFM у BigQuery протягом кількох тижнів після анонсу . Користувачі BigQuery зможуть виконувати нульове навчання для класифікації та регресії за допомогою SQL-команди AI.PREDICT, дотримуючись синтаксису, подібного до існуючих функцій керованого інференсу BigQuery ML (наприклад, AI.FORECAST для TimesFM) . Очікуваний синтаксис:

SELECT * FROM AI.PREDICT(
  MODEL tabfm,
  TABLE your_data
)

Ця інтеграція дозволить командам даних застосовувати прогнози TabFM безпосередньо в SQL, без необхідності управляти окремою ML-інфраструктурою або розгортаннями моделей . Станом на дату анонсу (1 липня 2026 року) цю інтеграцію описували як неминучу, але вона ще не була відображена в примітках до випуску BigQuery . Існуюча екосистема BigQuery ML вже підтримує керований інференс для TimesFM (AI.FORECAST), власних моделей (ML.PREDICT) та сторонніх відкритих моделей з Hugging Face ; TabFM стане першою фундаментальною табличною моделлю, яка отримає вбудований ярлик AI.PREDICT.

Ключові застереження

• Офіційний блог-пост Google Research було опубліковано 1 липня 2026 року, тобто це дуже свіжа новина . Деякі деталі — повна наукова стаття, точні показники TabArena на момент випуску та точний графік випуску BigQuery — можуть ще змінюватися.
• На момент аналізу не було доступно жодної офіційної наукової статті Google Research або препринту на arXiv. Деталі технічної архітектури походять із вторинних звітів і блог-посту .
• Функція AI.PREDICT, наразі задокументована для BigQuery ML, використовує ML.PREDICT із зареєстрованим об'єктом моделі ; синтаксис AI.PREDICT для TabFM може бути новим вбудованим ярликом, аналогічним AI.FORECAST для TimesFM, який ще не задокументовано в примітках до випуску.
• Некомерційна ліцензія на ваги TabFM обмежує комерційне використання без окремої угоди, що може вплинути на плани корпоративного впровадження.