LFM2.5-2.6B: Liquid AIs kompakte agentmodell som får plass i under 2,5 GB

Hovedfokus: agentoppgaver på enheten

Modellen er spesialdesignet for å kjøre agentoppgaver helt lokalt – altså planlegging, verktøykall, nettsøk og gjennomføring av flere steg – uten at data noen gang forlater enheten. Kostnaden per inferens blir dermed null . Verktøykall er innebygd, og modellen er trent til å fungere pålitelig i virkelige agent-miljøer som Hermes Agent, OpenClaw og Pi .

Treningsdetaljer

• Før-trening: Omtrent 34 billioner tokens .
• Vokabular: 128 000 tokens – doblet fra tidligere modeller for bedre støtte for ikke-latinske skriftspråk og varierte inndata som verktøyskjemaer og filstier .
• Kontekstvindu: 128 000 tokens (131 072), utvidet gjennom en egen fase midt i treningen .
• Ettertrening i fire trinn :
  1. Supervised Fine-Tuning (SFT): To runder – først bred dekning, deretter målrettet forming mot agentoppgaver, verktøybruk, resonnering og programvareutvikling.
  2. Lærerspesialisering: Én ekspert per domene (instruksjonsfølging, matte, kunnskap/hallusinasjonskontroll, kode, verktøybruk, lang kontekst), trent med SFT og RLVR.
  3. Multi-Domain On-Policy Distillation (MOPD): Spesialiserte lærere veileder elevmodellen med tilbakemelding på token-nivå under elevens egne forsøk.
  4. Agentisk forsterkningslæring (Agentic RL): Flerstegs-RL i virkelige agent-miljøer med GRPO, der belønningen kombinerer en KI-dommer, programmatiske sjekker og en sikkerhetsport.

Minneforbruk og dekodingshastighet

LFM2.5-2.6B kjører i under 2,5 GB minne . Hastighetene nedenfor er oppgitt av Liquid AI selv:

Støttede inferensrammeverk

Modellen støtter llama.cpp (GGUF), MLX (Apple Silicon), vLLM, SGLang, ONNX og standard Transformers .

Tilgjengelighet

Den er tilgjengelig som åpne vekter på Hugging Face under navnet LiquidAI/LFM2.5-2.6B, med egne filer for GGUF, MLX og ONNX-kvantiserte formater . Lisensiert under LFM1.0-lisensen .

Bakgrunn: MIT-avlegger

Liquid AI ble grunnlagt i 2023 som en avlegger fra MIT CSAIL av Ramin Hasani (administrerende direktør), Mathias Lechner (teknologidirektør), Alexander Amini (forskningssjef) og Daniela Rus (MIT-professor og leder for CSAIL) . Teknologien har utviklet seg fra forskning på flytende nevrale nettverk ved MIT .

Begrensninger

LFM2.5-2.6B anbefales ikke for koding eller kunnskapstunge oppgaver. Innen koding har større modeller som Qwen3.5-9B fortsatt et forsprang, og det offisielle modellkortet på Hugging Face fraråder bruk til slike formål . For komplekse kodeoppgaver eller dyp kunnskapshenting er større modeller fortsatt å foretrekke .