LongCat-2.0 від Meituan: Модель ШІ з 1,6 трильйона параметрів, навчена без жодного чипа Nvidia

Технічні характеристики

• Архітектура: Суміш експертів (MoE) із загальним обсягом 1,6 трильйона параметрів, але лише ~48 мільярдів активовано на токен (розрідженість ~97%) .
• Контекстне вікно: 1 мільйон токенів, що стало можливим завдяки спеціальному механізму LongCat Sparse Attention (LSA), який еволюціонував від механізму розрідженої уваги DeepSeek .
• Діапазон активних параметрів: 33–56 мільярдів на токен завдяки динамічній маршрутизації 'Zero-Compute Expert', що гарантує відсутність зайвих обчислень .
• N-gram Embedding: Додаткові ~135 мільярдів параметрів у шарі вбудовування (embedding), що використовує 2-5 символьні n-грами для покращення представлення локального контексту без нарощування шарів MoE .
• Спеціалізація: Агентне кодування (agentic coding) — розуміння, генерація та виконання коду в реальних сценаріях використання інструментів .
• Інфраструктура навчання: Навчалася з нуля на 50 000–60 000 китайських AI ASIC (спеціалізованих інтегральних схемах для ШІ, а не на GPU Nvidia), споживши понад 35 трильйонів токенів китайською, англійською, багатомовними текстами та вихідним кодом .
• Ліцензія: Випущена під відкритою ліцензією MIT .
• Доступність: Ваги та код опубліковані на GitHub, Hugging Face та офіційному сайті LongCat; також доступна через API та онлайн-демонстрацію .

Продуктивність і бенчмарки

Meituan стверджує, що LongCat-2.0 досягає продуктивності, порівнянної з Google Gemini 3.1 Pro . До офіційної презентації модель працювала анонімно під назвою 'Owl Alpha' на платформі OpenRouter, де, за повідомленнями, очолювала рейтинги розробників з кодування .

Ключові результати бенчмарків, опубліковані командою LongCat у X: Terminal-Bench 2.1: 70,8; SWE-bench Pro: 59,5 (для порівняння, GPT-5.5 має 58,6); SWE-bench Multilingual: 77,3; FORTE: 73,2 .

Стратегічне значення

LongCat-2.0 має значення, яке виходить далеко за межі результатів бенчмарків:

• Перша модель з трильйоном параметрів, навчена від початку до кінця на вітчизняних китайських чипах — від попереднього навчання до логічного висновку та розгортання. Це віха, якої не зміг досягти навіть DeepSeek-V4-pro, який покладався на вітчизняне обладнання лише для логічного висновку .
• Демонструє здатність Китаю досягати майже передових можливостей ШІ без доступу до передових GPU Nvidia, на які поширюються експортні обмеження США .
• Сигналізує про потенційне відокремлення розробки китайського ШІ від ланцюгів постачання американського обладнання, що має наслідки для глобального ринку ШІ-чипів та геополітичної технологічної конкуренції .
• Для Meituan це позиціонує компанію, відому насамперед доставкою їжі та локальними послугами, як серйозного гравця у створенні відкритих фундаментальних моделей ШІ, подібно до кроків Alibaba (модель Qwen) та ByteDance .

Ключові архітектурні інновації

LongCat-2.0 представляє два помітні архітектурні покращення порівняно з попередником LongCat-Flash:

1. LongCat Sparse Attention (LSA): Еволюція механізму розрідженої уваги DeepSeek (DSA), LSA вирішує проблеми затримки в індексаторі за допомогою трьох незалежних оптимізацій ефективності: потоково-орієнтована індексація (flow-aware indexing), міжшарова індексація (cross-layer indexing) та ієрархічна індексація (hierarchical indexing). Це призначено для прискорення обробки довгих контекстів без шкоди для якості моделі .

2. MOPD (Multi-Objective Process Decoding): Модель організовує своїх експертів у три спеціалізовані групи — Agent, Reasoning та Interaction — з маршрутизатором (gate router), який направляє кожен токен до відповідної групи залежно від типу завдання .

Доступність і доступ

Розробники та дослідники можуть отримати доступ до LongCat-2.0 за дозвільною ліцензією MIT. Ваги моделі, код для логічного висновку та документація доступні на GitHub, Hugging Face та офіційному сайті LongCat. Також надаються кінцева точка API та інтерактивна онлайн-демонстрація .