LFM2.5-2.6B: Model AI Ejen Yang Boleh Berjalan Terus Pada Peranti Anda

Fokus Utama: Ejen Pintar Pada Peranti

Berbeza dengan model AI lain yang bergantung pada pelayan awan, LFM2.5-2.6B dibina untuk melaksanakan tugasan ejen secara setempat. Antara keupayaannya termasuk:

• Merancang langkah seterusnya
• Memanggil alat (tool calling) secara semula jadi
• Mencari maklumat di web
• Melaksanakan tugasan yang mempunyai pelbagai langkah

Model ini telah dilatih untuk berfungsi dengan baik dalam rangka kerja ejen seperti Hermes Agent, OpenClaw, dan Pi .

Rahsia Di Sebalik Kehebatan: Latihan Mantap

Untuk menghasilkan model sekecil ini tetapi begitu berkesan, Liquid AI menggunakan pendekatan latihan yang sangat tersusun :

1. Latihan Awal (Pre-training): Menggunakan kira-kira 34 trilion token data .
2. Perbendaharaan Kata (Vocabulary): 128,000 token — dua kali ganda daripada model sebelumnya untuk menyokong skrip bukan Latin dan input ejen yang pelbagai seperti skema alat dan laluan fail .
3. Tetingkap Konteks: 128,000 token (131,072), membolehkan model mengendalikan input panjang yang diperlukan oleh tugasan ejen .
4. Empat Peringkat Latihan Pasca (Post-training):
   • Pemurnian Supervised (SFT): Dua pusingan untuk meliputi domain luas dan kemudian memfokuskan pada tugas ejen.
   • Pengkhususan Guru (Teacher Specialization): Satu pakar untuk setiap domain (seperti kod, matematik, penggunaan alat).
   • Penyulingan Dasar Pelbagai Domain (MOPD): Guru pakar membimbing model pelajar.

Prestasi: Cepat dan Jimat Memori

Salah satu daya tarikan utama model ini adalah keupayaannya berjalan dalam kurang daripada 2.5 GB memori . Berikut adalah kelajuan yang dilaporkan oleh Liquid AI untuk pelbagai perkakasan:

Sokongan Rangka Kerja Inferens

Model ini menyokong pelbagai rangka kerja popular, memudahkan pembangun untuk menggunakannya:

• llama.cpp (format GGUF)
• MLX (untuk Apple Silicon)
• vLLM, SGLang, ONNX, dan Transformers standard .

Muat Turun dan Lesen

LFM2.5-2.6B boleh dimuat turun secara 'open-weight' di Hugging Face melalui pautan LiquidAI/LFM2.5-2.6B. Ia juga tersedia dalam format terkuantisasi GGUF, MLX, dan ONNX di repositori berasingan. Model ini dilesenkan di bawah lesen LFM1.0 .

Latar Belakang Syarikat: Spinoff MIT

Liquid AI ditubuhkan pada 2023 sebagai spinoff dari MIT CSAIL oleh Ramin Hasani (CEO), Mathias Lechner (CTO), Alexander Amini (CSO), dan Daniela Rus (profesor MIT dan pengarah CSAIL). Teknologi syarikat ini berkembang dari penyelidikan mengenai rangkaian neural cecair di MIT .

Kekurangan dan Batasan

Walaupun hebat dalam tugas ejen, model ini tidak digalakkan untuk tugasan pengekodan ejenik atau tugas yang memerlukan pengetahuan mendalam. Dalam penanda aras pengekodan, model yang lebih besar (seperti Qwen3.5-9B) masih menunjukkan prestasi lebih baik. Kad Hugging Face rasmi menasihatkan supaya tidak menggunakannya untuk beban kerja tersebut .

Kesimpulannya, LFM2.5-2.6B adalah langkah penting dalam membawa kuasa AI ejen terus ke peranti pengguna, menawarkan keseimbangan antara prestasi, saiz, dan privasi.