Liquid AI의 LFM2.5-2.6B: 2.5GB 미만 메모리로 구동되는 온디바이스 에이전트 모델

핵심 설계 목표: 온디바이스 에이전트 워크플로

이 모델은 계획 수립, 도구 호출, 웹 검색, 멀티스텝 작업 실행 등 에이전트 워크플로를 전적으로 기기 내에서 실행하도록 설계되었습니다. 데이터가 기기를 떠나지 않으며 추가 추론 비용이 발생하지 않습니다 . 네이티브 툴 호출 기능을 갖추고 있으며 Hermes Agent, OpenClaw, Pi 등 실제 에이전트 하네스(harness) 내에서 안정적으로 작동하도록 훈련되었습니다 .

훈련 세부 사항

• 사전 훈련: 약 34조 토큰
• 어휘: 128K 토큰(이전 모델 대비 2배 증가, 비라틴 문자와 다양한 에이전트 입력 지원)
• 컨텍스트 창: 128K 토큰(131,072), 전용 중간 훈련 컨텍스트 확장 단계를 통해 확장
• 4단계 포스트트레이닝 파이프라인 :
  1. 지도 파인튜닝(SFT): 2라운드 — 광범위한 커버리지 후 에이전트 태스크, 도구 사용, 추론, 소프트웨어 엔지니어링에 집중
  2. 교사 전문화: 도메인별 전문가(SFT + RLVR로 훈련, 지시 따르기, 수학, 지식/환각 제어, 코드, 도구 사용, 긴 컨텍스트)
  3. 다중 도메인 온폴리시 증류(MOPD): 전문화된 교사가 학생 모델의 자체 롤아웃 중 토큰 수준 피드백 제공
  4. 에이전트 강화 학습(Agentic RL): GRPO를 사용한 실제 에이전트 하네스 내 멀티턴 RL, LLM 판정자와 프로그램적 검사, 안전 게이트 결합

메모리 사용량 및 디코딩 속도

LFM2.5-2.6B는 2.5GB 미만의 메모리에서 실행됩니다 . 다음 디코딩 속도는 Liquid AI가 공개한 벤더 수치입니다.

지원 추론 프레임워크

이 모델은 llama.cpp(GGUF), MLX(Apple Silicon), vLLM, SGLang, ONNX 및 표준 Transformers를 지원합니다 .

이용 가능성

Hugging Face에서 오픈웨이트로 다운로드 가능합니다(LiquidAI/LFM2.5-2.6B). GGUF, MLX, ONNX 양자화 형식의 별도 저장소도 제공됩니다 . LFM1.0 오픈웨이트 라이선스가 적용됩니다 .

회사 배경: MIT 스핀오프

Liquid AI는 2023년 MIT CSAIL에서 창업된 스핀오프 기업입니다. 창업자는 Ramin Hasani(CEO), Mathias Lechner(CTO), Alexander Amini(CSO), Daniela Rus(MIT 교수, CSAIL 소장)입니다 . 회사의 기술은 MIT의 액체 신경망(liquid neural networks) 연구에서 발전했습니다 .

한계점

LFM2.5-2.6B는 에이전트 코딩이나 지식 집약적 작업에는 권장되지 않습니다. 코딩 벤치마크에서는 더 큰 모델(예: Qwen3.5-9B)이 여전히 우위를 점하고 있으며, 공식 Hugging Face 카드에서도 해당 작업에 사용하지 말 것을 권고합니다 . 복잡한 에이전트 코딩이나 심층 지식 검색에는 더 큰 모델이 여전히 적합합니다 .