LFM2.5-2.6B: Liquid AIs neues On-Device-Agent-Modell läuft mit unter 2,5 GB

Schwerpunkt: On-Device-Agenten

Der Fokus liegt auf der lokalen Ausführung von Agenten-Workflows – Planung, Tool-Nutzung, Websuche und Ausführung mehrschrittiger Aufgaben – wobei die Daten das Gerät nie verlassen und keine zusätzlichen Kosten für die Inferenz anfallen . Das Modell beherrscht die native Tool-Nutzung (Tool Calling) und wurde darauf trainiert, zuverlässig in realen Agenten-Umgebungen wie Hermes Agent, OpenClaw und Pi zu arbeiten .

Trainingsdetails

• Vortraining: Rund 34 Billionen Token
• Vokabular: 128.000 Token (verdoppelt im Vergleich zu früheren Modellen, um nicht-lateinische Schriften besser zu unterstützen)
• Kontextfenster: 128K Token (131.072), erweitert durch eine spezielle Kontexterweiterungsphase
• Vierstufiges Post-Training :
  1. Supervised Fine-Tuning (SFT): Zwei Runden – breite Abdeckung, dann gezielte Anpassung für Agentenaufgaben, Tool-Nutzung, Reasoning und Softwareentwicklung.
  2. Spezialisierte Lehrermodelle: Ein Experte pro Bereich (Befolgungsfähigkeit, Mathematik, Wissenskontrolle, Code, Tool-Nutzung, langer Kontext), trainiert mit SFT und verstärkendem Lernen.
  3. Multi-Domain On-Policy Distillation (MOPD): Spezialisierte Lehrer beaufsichtigen das Schülermodell mit Token-Feedback während der eigenen Generierung.
  4. Agentic Reinforcement Learning: Mehrschrittiges RL in echten Agenten-Umgebungen mit GRPO und belohnungsbasierten Funktionen.

Speicherbedarf und Decoding-Geschwindigkeiten

Das Modell läuft mit unter 2,5 GB Arbeitsspeicher . Die folgenden Geschwindigkeiten sind vom Hersteller angegeben:

Unterstützte Inferenz-Frameworks

Das Modell wird von llama.cpp (GGUF), MLX (Apple Silicon), vLLM, SGLang, ONNX und den standardmäßigen Transformers unterstützt .

Verfügbarkeit

Der Download der offenen Gewichte ist auf Hugging Face unter LiquidAI/LFM2.5-2.6B möglich, mit separaten Repositorien für GGUF-, MLX- und ONNX-Quantisierungen . Die Lizenz ist die LFM1.0-Open-Weight-Lizenz .

Hintergrund: Ausgründung des MIT

Liquid AI wurde 2023 als Ausgründung des MIT CSAIL gegründet, und zwar von Ramin Hasani (CEO), Mathias Lechner (CTO), Alexander Amini (CSO) und Daniela Rus (MIT-Professorin und CSAIL-Direktorin) . Die Technologie des Unternehmens basiert auf der Forschung zu flüssigen neuronalen Netzen am MIT .

Grenzen

Das Modell ist nicht für agentische Programmier- oder wissensintensive Aufgaben geeignet. Bei Coding-Benchmarks haben größere Modelle (z.B. Qwen3.5-9B) weiterhin die Nase vorn. Die offizielle Hugging Face-Karte empfiehlt den Einsatz für diese Aufgaben nicht . Für komplexe agentische Programmier- oder tiefgehende Wissensabfragen sind größere Modelle weiterhin vorzuziehen .