LFM2.5-2.6B của Liquid AI: AI tác tử chạy hoàn toàn trên thiết bị, chỉ tốn chưa tới 2,5 GB RAM

Trọng tâm Thiết kế: Tác tử trên Thiết bị (On-Device Agent)

Điểm mạnh cốt lõi của mô hình này là khả năng chạy các quy trình làm việc tác tử hoàn toàn trên thiết bị — bao gồm lập kế hoạch, gọi công cụ, tìm kiếm web và thực thi các tác vụ đa bước — mà dữ liệu không bao giờ rời khỏi thiết bị và không phát sinh chi phí suy luận phụ thuộc đám mây . Nó có khả năng gọi công cụ gốc (native tool calling) và đã được huấn luyện để hoạt động đáng tin cậy trong các khung tác tử thực tế như Hermes Agent, OpenClaw, và Pi .

Chi tiết về Huấn luyện

• Tiền huấn luyện (Pre-training): Khoảng 34 nghìn tỷ token .
• Bộ từ vựng (Vocabulary): 128.000 token (được tăng gấp đôi so với các mô hình trước để hỗ trợ tốt hơn các ngôn ngữ không phải Latin và các đầu vào đa dạng của tác tử như schema công cụ, đường dẫn tệp) .
• Cửa sổ ngữ cảnh (Context Window): 128K token (131.072 token), được mở rộng thông qua một giai đoạn mở rộng ngữ cảnh chuyên dụng trong quá trình huấn luyện .
• Quy trình hậu huấn luyện 4 giai đoạn :
  1. Tinh chỉnh có giám sát (SFT): Hai vòng — đầu tiên là bao quát rộng, sau đó tập trung vào các tác vụ tác tử, sử dụng công cụ, lý luận và kỹ thuật phần mềm.
  2. Chuyên môn hóa Giáo viên (Teacher Specialization): Một chuyên gia cho mỗi lĩnh vực (tuân theo hướng dẫn, toán học, kiểm soát kiến thức/ảo giác, mã, sử dụng công cụ, ngữ cảnh dài) được huấn luyện qua SFT và Học tăng cường từ phản hồi xác minh (RLVR).
  3. Chưng cất Đa miền Trên Chính sách (MOPD): Các giáo viên chuyên môn giám sát mô hình học sinh với phản hồi ở cấp độ token trong quá trình sinh của chính học sinh.
  4. Học tăng cường Tác tử (Agentic RL): Học tăng cường đa lượt bên trong các khung tác tử thực tế sử dụng GRPO (Group Relative Policy Optimization), với phần thưởng dựa trên kết quả kết hợp giữa bộ đánh giá LLM, kiểm tra lập trình và một cổng an toàn.

Bộ nhớ và Tốc độ Giải mã

Mô hình hoạt động trong bộ nhớ dưới 2,5 GB . Các tốc độ giải mã dưới đây là số liệu do Liquid AI báo cáo:

Các Framework Suy luận Hỗ trợ

Mô hình hỗ trợ các framework: llama.cpp (định dạng GGUF), MLX (cho chip Apple Silicon), vLLM, SGLang, ONNX, và Transformers tiêu chuẩn .

Khả dụng

Trọng số mã nguồn mở (open-weight) được tải xuống trên Hugging Face tại LiquidAI/LFM2.5-2.6B, kèm theo các kho riêng cho các định dạng lượng tử hóa GGUF, MLX và ONNX . Mô hình được cấp phép theo giấy phép nguồn mở LFM1.0 .

Về Liquid AI: Start-up tách ra từ MIT

Liquid AI được thành lập vào năm 2023, tách ra từ phòng thí nghiệm MIT CSAIL bởi Ramin Hasani (CEO), Mathias Lechner (CTO), Alexander Amini (CSO), và Daniela Rus (giáo sư MIT, giám đốc CSAIL) . Công nghệ của công ty phát triển từ nghiên cứu về mạng nơ-ron lỏng (liquid neural networks) tại MIT .

Hạn chế

Mô hình không được khuyến nghị cho các tác vụ tác tử yêu cầu viết mã hoặc nhiều kiến thức chuyên sâu. Trên các điểm chuẩn về mã hóa, các mô hình lớn hơn (ví dụ: Qwen3.5-9B) vẫn có lợi thế, và thẻ chính thức trên Hugging Face khuyến cáo không nên sử dụng LFM2.5-2.6B cho các khối lượng công việc này . Đối với các tác vụ tác tử lập trình phức tạp hoặc truy xuất kiến thức sâu, các mô hình lớn hơn vẫn là lựa chọn tốt hơn .