Một mô hình 30 tỷ tham số thông thường cần khoảng 55 GB bộ nhớ ở độ chính xác BF16 . Tuy nhiên, các kỹ sư của Meta đã áp dụng các kỹ thuật như lượng tử hóa 4-bit (4-bit quantization) và tối ưu hóa kiến trúc để thu nhỏ bộ nhớ của mô hình xuống dưới 20 GB
. Nhờ đó, Muse Glimmer có thể vừa vặn và chạy mượt mà trên một GPU tiêu dùng với 24 GB VRAM — loại GPU thường thấy trên các PC gaming cao cấp và MacBook mới
.
Muse Glimmer được 'chưng cất' (distilled) từ Muse Spark và được thiết kế dành riêng cho các tác vụ tác tử tự động . Không giống như các mô hình chat đa năng, Glimmer được tối ưu cho các tác vụ đòi hỏi suy luận nhiều bước (multi-step reasoning), sử dụng công cụ một cách đáng tin cậy (tool use), điều phối các tác tử con (sub-agent orchestration), lập trình cục bộ (local coding), nhận thức đa phương thức (văn bản và hình ảnh) và khả năng tự phục hồi sau lỗi
. Blog chính thức của Meta mô tả nó là mô hình 'tối ưu cho các quy trình tác tử luôn hoạt động trên máy cục bộ'
.
Bởi vì mọi suy luận (inference) đều diễn ra trên thiết bị của người dùng, không có dữ liệu nào rời khỏi máy. Điều này về cơ bản loại bỏ những đánh đổi về quyền riêng tư và độ trễ vốn có của các tác tử AI chạy trên đám mây . Thêm vào đó, vì là mã nguồn mở, người dùng và nhà phát triển có thể kiểm tra, sửa đổi và tinh chỉnh mô hình — những khả năng hoàn toàn không thể có với một mô hình chỉ dùng API như Muse Spark
.
Giấy phép Apache 2.0 cho phép sử dụng thương mại, sửa đổi và phân phối lại . Điều này khuyến khích các nhà phát triển bên thứ ba xây dựng các ứng dụng tác tử cục bộ — trợ lý lập trình, công cụ phân tích tài liệu, tác tử năng suất cá nhân — mà không phải trả phí cho mỗi token hay phụ thuộc vào hạ tầng API của Meta
.
Việc phát hành Muse Glimmer cho thấy một chiến lược hai tầng có chủ đích, cân bằng giữa phổ biến rộng rãi và tạo ra lợi nhuận.
Zuckerberg đã mô tả 'siêu trí tuệ cá nhân' là AI hiểu rõ bối cảnh của bạn, làm việc cho bạn liên tục và nằm dưới sự kiểm soát của bạn thay vì của nhà cung cấp đám mây . Muse Glimmer là hiện thực hóa cụ thể của tầm nhìn này: một mô hình AI mạnh mẽ, ưu tiên chạy cục bộ (local-first) mà bất kỳ ai cũng có thể tải về, tùy chỉnh và chạy vĩnh viễn trên phần cứng của chính họ. Nó cho phép các tác tử AI luôn hoạt động, thực sự riêng tư và có thể vận hành mà không cần kết nối mạng
.
Trong khi đó, Muse Spark — mô hình tiên tiến hơn của Meta — vẫn là mã nguồn đóng, chỉ có thể truy cập qua API trả phí (với giá $1.25 cho mỗi triệu token đầu vào và $4.25 cho mỗi triệu token đầu ra cho Spark 1.1) . Meta đã cam kết sẽ mở mã nguồn cho Spark 1.2 trong vài tuần tới, nhưng các phiên bản tiên tiến nhất vẫn là độc quyền
.
Mô hình này rất rõ ràng: phát hành một mô hình mở đủ tốt (Glimmer) để lan tỏa rộng rãi, xây dựng hệ sinh thái và thiết lập vị thế của Meta trong lĩnh vực AI cục bộ; đồng thời dành riêng các khả năng tiên tiến nhất (Spark) như một dịch vụ được kiểm soát và tạo doanh thu . Như TechCrunch đã nhận xét, Glimmer 'về cơ bản là một phiên bản mở của dòng sản phẩm Muse Spark mạnh mẽ hơn của Meta' — đủ tốt cho các tác tử cục bộ, nhưng không quá mạnh đến mức làm suy yếu mảng kinh doanh API của chính Meta
.
Zuckerberg đã không loại trừ khả năng mở mã nguồn các phiên bản Spark trong tương lai, cho thấy ranh giới giữa mở và đóng có thể thay đổi theo thời gian dựa trên các yếu tố cạnh tranh và an toàn . Nhưng hiện tại, thông điệp đã rõ: Meta muốn trao cho các nhà phát triển đủ khả năng để xây dựng một cách độc lập và riêng tư, trong khi vẫn giữ lại trí thông minh tiên tiến nhất của mình phía sau một bức tường phí.
Muse Glimmer là một cột mốc quan trọng cho AI cục bộ, bảo vệ quyền riêng tư. Nó chứng minh rằng các khả năng tác tử mạnh mẽ — lập kế hoạch, sử dụng công cụ, lập trình — hoàn toàn có thể chạy trên phần cứng tiêu dùng mà không gặp phải độ trễ đám mây, chi phí API hay rủi ro chia sẻ dữ liệu. Đối với các nhà phát triển và doanh nghiệp quan tâm đến chủ quyền dữ liệu và sự độc lập trong vận hành, đây là một sự thay thế thực sự cho AI phụ thuộc vào API. Đối với toàn ngành, nó cho thấy ngay cả những gã khổng lồ như Meta cũng nhìn thấy lợi thế chiến lược trong việc phân phối AI mạnh mẽ một cách rộng rãi — chỉ là không phải mô hình tốt nhất của họ.