LongCat-2.0 : Meituan dévoile un modèle d'IA géant entièrement entraîné sur des puces chinoises

Spécifications techniques

• Architecture : Mixture-of-Experts (MoE) avec une capacité totale de 1,6 billion de paramètres, mais seulement ~48 milliards d'activés par token (97 % de sparsité) .
• Fenêtre de contexte : 1 million de tokens, rendue possible par le mécanisme LongCat Sparse Attention (LSA), une évolution de l'attention éparse de DeepSeek .
• Paramètres actifs : 33 à 56 milliards par token via un routage dynamique 'Zero-Compute Expert' .
• N-gram Embedding : 135 milliards de paramètres supplémentaires dédiés aux n-grammes (2 à 5 caractères) pour améliorer la représentation du contexte local .
• Conçu pour : Le codage agentif — compréhension, génération et exécution de code dans des scénarios réels d'utilisation d'outils .
• Infrastructure d'entraînement : Entraîné de zéro sur 50 000 à 60 000 ASIC d'IA fabriqués en Chine (et non des GPU Nvidia), en consommant plus de 35 billions de tokens de textes chinois, anglais, multilingues et de code source .
• Licence : Open-source sous licence MIT .
• Disponibilité : Poids et code publiés sur GitHub, Hugging Face et le site officiel de LongCat ; accessibles également via API et une démo en ligne .

Performances et benchmarks

Meituan affirme que LongCat-2.0 atteint des performances comparables à Gemini 3.1 Pro de Google . Avant son dévoilement officiel, le modèle opérait anonymement sous le nom 'Owl Alpha' sur OpenRouter, où il aurait dominé les classements des développeurs pour les benchmarks de codage .

Les principaux scores publiés par l'équipe LongCat sur X sont : Terminal-Bench 2.1 : 70,8 ; SWE-bench Pro : 59,5 (GPT-5.5 ayant 58,6) ; SWE-bench Multilingue : 77,3 ; FORTE : 73,2 .

Importance stratégique

LongCat-2.0 a des implications qui vont bien au-delà des simples scores :

• Premier modèle à plus d'un billion de paramètres entièrement entraîné sur des puces chinoises, du pré-entraînement à l'inférence et au déploiement — un jalon que DeepSeek-V4-pro lui-même n'avait pas atteint, ne reposant que sur le matériel domestique pour l'inférence .
• Démontre la capacité de la Chine à atteindre un niveau d'IA quasi-frontalier sans accès aux GPU avancés de Nvidia, soumis aux restrictions d'exportation américaines .
• Signale un potentiel découplage du développement de l'IA chinois des chaînes d'approvisionnement en matériel américain, avec des implications pour le marché mondial des puces IA et la compétition technologique géopolitique .
• Pour Meituan, cela positionne un géant de la livraison de repas et des services locaux comme un contributeur sérieux aux modèles de fondation IA open-source, à l'instar d'Alibaba (Qwen) ou ByteDance .

Innovations architecturales clés

LongCat-2.0 introduit deux améliorations notables par rapport à son prédécesseur, LongCat-Flash :

1. LongCat Sparse Attention (LSA) : Une évolution du mécanisme d'attention éparse de DeepSeek (DSA). LSA résout les goulots d'étranglement de latence dans l'indexeur grâce à trois optimisations d'efficacité indépendantes : indexation sensible au flux, indexation inter-couches et indexation hiérarchique — conçues pour accélérer le traitement des longs contextes sans sacrifier la qualité du modèle .

2. MOPD (Multi-Objective Process Decoding) : Le modèle organise ses experts en trois groupes spécialisés — Agent, Raisonnement et Interaction — avec un routeur qui dirige chaque token vers le groupe approprié en fonction du type de tâche .

Disponibilité et accès

Les développeurs et chercheurs peuvent accéder à LongCat-2.0 sous la licence MIT permissive. Les poids du modèle, le code d'inférence et la documentation sont disponibles sur GitHub, Hugging Face et le site officiel de LongCat. Un point de terminaison API et une démo interactive en ligne sont également fournis .