LimiX-2: одна модель для прогнозов и заполнения пропусков в таблицах

LimiX-2 — модель для структурированных, в том числе табличных, данных, разработанная Stable AI совместно с командой Университета Цинхуа, связанной с профессором Пэн Цуем. Вместо отдельного обучения модели для каждого набора данных и каждой задачи она предлагает использовать одну предобученную модель примерно с 400 млн параметров. Проект датирует публикацию весов и кода для инференса 16 сентября 2026 года; дата 17 сентября встречается в более позднем списке научных работ. 3812

Как одна модель решает разные задачи

В основе LimiX-2 — Contextual Mechanism Network (CMN), архитектура для моделирования связей между переменными в предоставленных модели данных. При предобучении применяется Context-Conditional Masked Modeling (CCMM): часть значений скрывают, а модель учится восстанавливать их по оставшимся данным. Если менять то, какие значения скрыты, этот подход можно использовать как для предсказания целевого показателя, так и для заполнения пропусков в таблице. Для предобучения команда создавала синтетические наборы данных с помощью структурных причинных моделей, варьируя структуру связей и механизмы генерации данных. 23

По заявлению проекта, для классификации, регрессии и заполнения пропусков не требуется обновлять параметры под конкретную задачу. Авторы также сообщают о восстановлении причинного каркаса — поиске возможных связей между переменными. Но сам по себе такой каркас не показывает направление причинной связи и не доказывает, что вмешательство в одну переменную изменит другую. 319

Что показывают бенчмарки

В оценке авторов LimiX-2 получила 1935 пунктов Elo на TabArena, 1432 на BCCO и 1506 на TALENT. На всех трёх бенчмарках она опередила сравниваемые модели для табличных данных и систему автоматизированного машинного обучения AutoGluon 1.6. На TabArena отрыв от ближайшего соперника, TabFM+, составил 117,4 пункта Elo до округления. 16

Elo здесь — сравнительный рейтинг внутри бенчмарка, а не процент точности. Эти результаты дают повод испытать LimiX-2 рядом с действующим AutoML-конвейером, но не обещают выигрыша на каждом отдельном наборе данных. 16

Что проверить перед пилотом

Сначала — лицензию. Веса и код для инференса доступны, однако материалы проекта предусматривают некоммерческую лицензию. Открытый доступ к весам не равнозначен разрешению на коммерческое внедрение. 3

Если условия использования подходят, сравните LimiX-2 с текущим решением на данных, представляющих ваши рабочие задачи. Там, где это важно, разделяйте обучающую и проверочную выборки с учётом времени или групп объектов. Смотрите не только на качество прогнозов, но и на калибровку, поведение при пропусках, стоимость инференса, потребление памяти и удобство эксплуатации. Заполненные моделью значения считайте оценками, а предполагаемые причинные связи — гипотезами для проверки специалистами. Результаты LimiX-2 оправдывают пилот; решение о замене специализированного AutoML-конвейера зависит от данных и условий применения. 31619