Meituan LongCat-2.0: Mô Hình AI 1,6 Nghìn Tỷ Tham Số, 'Mãi Mãi Không Cần' Chip Nvidia

Thông số kỹ thuật chi tiết

• Kiến trúc: Hỗn hợp chuyên gia (MoE) với tổng dung lượng lên tới 1,6 nghìn tỷ tham số, nhưng mỗi token chỉ kích hoạt khoảng ~48 tỷ tham số (độ thưa đạt ~97%) .
• Cửa sổ ngữ cảnh: 1 triệu token, được hỗ trợ bởi cơ chế Chú ý Thưa LongCat (LSA), một phiên bản tiến hóa từ kiến trúc chú ý thưa của DeepSeek .
• Phạm vi tham số hoạt động: 33B–56B cho mỗi token nhờ cơ chế định tuyến 'Zero-Compute Expert' năng động, đảm bảo không có tính toán lãng phí .
• N-gram Embedding: Thêm khoảng 135 tỷ tham số ở lớp nhúng, sử dụng n-gram từ 2 đến 5 ký tự để cải thiện khả năng biểu diễn ngữ cảnh cục bộ mà không cần xếp thêm các lớp MoE .
• Mục đích chính: Mã hóa tác tử (Agentic Coding) – hiểu, sinh và thực thi mã trong các kịch bản sử dụng công cụ thực tế .
• Hạ tầng huấn luyện: Được huấn luyện từ đầu trên cụm 50.000–60.000 chip ASIC nội địa (không phải GPU Nvidia), tiêu thụ hơn 35 nghìn tỷ token dữ liệu văn bản tiếng Trung, tiếng Anh, đa ngôn ngữ và mã nguồn .
• Giấy phép: Phát hành dưới giấy phép mã nguồn mở MIT .
• Nơi tải về: Trọng số và mã nguồn được công bố trên GitHub, Hugging Face và trang web chính thức của LongCat; cũng có thể truy cập qua API và bản demo trực tuyến .

Hiệu năng và Điểm chuẩn

Meituan tuyên bố LongCat-2.0 đạt hiệu năng có thể so sánh với Gemini 3.1 Pro của Google . Trước khi ra mắt chính thức, mô hình hoạt động ẩn danh với tên 'Owl Alpha' trên OpenRouter và được cho là đã dẫn đầu bảng xếp hạng của cộng đồng nhà phát triển về các bài kiểm tra mã hóa .

Các điểm chuẩn chính do nhóm LongCat công bố trên X bao gồm: Terminal-Bench 2.1: 70,8; SWE-bench Pro: 59,5 (GPT-5.5 đạt 58,6 để so sánh); SWE-bench Đa ngôn ngữ: 77,3; và FORTE: 73,2 .

Ý nghĩa chiến lược

LongCat-2.0 mang những hàm ý vượt xa các điểm số:

• Mô hình nghìn tỷ tham số đầu tiên được huấn luyện đầu-cuối trên chip nội địa Trung Quốc, từ tiền huấn luyện đến suy luận và triển khai – một cột mốc mà ngay cả DeepSeek-V4-pro cũng chưa đạt được, vì nó chỉ dùng phần cứng nội địa cho giai đoạn suy luận .
• Chứng minh khả năng đạt tới năng lực AI gần như tiên tiến của Trung Quốc mà không cần GPU cao cấp của Nvidia, vốn đang bị ràng buộc bởi các lệnh cấm xuất khẩu của Mỹ .
• Báo hiệu khả năng tách rời của hệ sinh thái AI Trung Quốc khỏi chuỗi cung ứng phần cứng Mỹ, với những tác động sâu rộng đến thị trường chip AI toàn cầu và cạnh tranh công nghệ địa chính trị .
• Đối với riêng Meituan, động thái này định vị một gã khổng lồ giao đồ ăn và dịch vụ địa phương trở thành một nhà đóng góp nghiêm túc cho các mô hình nền tảng AI mã nguồn mở, tương tự các bước đi của Alibaba (Qwen) và ByteDance .

Những cải tiến kiến trúc chính

LongCat-2.0 giới thiệu hai cải tiến kiến trúc đáng chú ý so với phiên bản tiền nhiệm LongCat-Flash:

1. Cơ chế Chú Ý Thưa LongCat (LSA): Là bước tiến hóa từ cơ chế chú ý thưa của DeepSeek (DSA), LSA giải quyết các nút thắt về độ trễ trong bộ chỉ mục thông qua ba tối ưu hóa hiệu quả độc lập: lập chỉ mục theo luồng, lập chỉ mục liên lớp và lập chỉ mục phân cấp – được thiết kế để tăng tốc xử lý ngữ cảnh dài mà không làm giảm chất lượng mô hình .

2. MOPD (Multi-Objective Process Decoding - Giải mã quy trình đa mục tiêu): Mô hình tổ chức các chuyên gia thành ba nhóm chuyên biệt: Tác tử, Suy luận và Tương tác, với một bộ định tuyến cổng có nhiệm vụ điều hướng mỗi token đến nhóm phù hợp dựa trên loại nhiệm vụ .

Cách truy cập

Các nhà phát triển và nhà nghiên cứu có thể truy cập LongCat-2.0 dưới giấy phép MIT cởi mở. Trọng số mô hình, mã suy luận và tài liệu hướng dẫn có sẵn trên GitHub, Hugging Face và trang web chính thức của LongCat. Một API endpoint và bản demo trực tuyến cũng được cung cấp .