Osaurus: Biến máy Mac Apple Silicon thành trung tâm AI cá nhân

Osaurus là gì?

Osaurus là một nền tảng AI mã nguồn mở theo triết lý local‑first dành riêng cho máy Mac sử dụng Apple Silicon (M1, M2, M3…). Thay vì phụ thuộc hoàn toàn vào dịch vụ AI trên đám mây, Osaurus cho phép chạy các mô hình ngôn ngữ trực tiếp trên máy của bạn, đồng thời vẫn có thể kết nối với các nhà cung cấp cloud khi cần thêm sức mạnh tính toán.

Nói đơn giản: Osaurus biến máy Mac thành một "trung tâm AI cá nhân". Các mô hình có thể thay đổi, nhưng phần quan trọng nhất — bộ nhớ, dữ liệu, công cụ và workflow — vẫn nằm trên máy của người dùng.

Nền tảng này vừa là:

• Ứng dụng AI gốc trên macOS với giao diện chat
• Máy chủ LLM cục bộ (local AI server)
• Cổng API để các ứng dụng khác kết nối

Osaurus được viết bằng Swift và tối ưu cho chip Apple Silicon thông qua runtime machine‑learning MLX của Apple, giúp chạy mô hình AI trên thiết bị với hiệu suất cao.

Một giao diện cho cả AI local và cloud

Điểm nổi bật của Osaurus là khả năng chuyển đổi linh hoạt giữa nhiều mô hình AI ngay trong cùng một giao diện.

Người dùng có thể chọn:

• Mô hình MLX chạy trực tiếp trên Mac
• Apple Foundation Models (AI on‑device của Apple trong Apple Intelligence)
• Mô hình cloud từ OpenAI, Anthropic hoặc các nhà cung cấp khác

Việc chuyển đổi mô hình có thể thực hiện ngay trong cửa sổ chat mà không cần thay đổi workflow hay cấu hình agent.

Ở phía kỹ thuật, Osaurus cung cấp nhiều định dạng API quen thuộc trên cùng một máy chủ local, bao gồm:

• endpoint tương thích OpenAI
• API dạng Anthropic messages
• endpoint tương thích Ollama
• công cụ tích hợp qua Model Context Protocol (MCP)

Nhờ vậy, các ứng dụng hoặc SDK hiện có có thể kết nối với Osaurus giống như đang gọi một dịch vụ AI thông thường, trong khi hệ thống sẽ quyết định yêu cầu đó chạy trên máy hay gửi lên cloud.

Những mô hình AI có thể chạy trên Osaurus

Osaurus được thiết kế theo hướng model‑agnostic — tức không phụ thuộc vào một họ mô hình duy nhất.

Các loại mô hình có thể dùng gồm:

• Mô hình mã nguồn mở chạy local như Llama, Gemma, Qwen hoặc các model tương thích MLX
• Apple Foundation Models chạy trực tiếp trên thiết bị
• Mô hình cloud từ các dịch vụ như OpenAI hoặc Anthropic

Người dùng có thể kết hợp nhiều cách: ví dụ chạy mô hình nhỏ offline khi di chuyển, sau đó chuyển sang mô hình cloud mạnh hơn cho những tác vụ phức tạp — trong khi agent, bộ nhớ và công cụ vẫn giữ nguyên.

Các tính năng chính của nền tảng

Chat overlay toàn hệ thống

Osaurus cung cấp chat overlay có thể gọi nhanh ở bất kỳ đâu trên macOS. Đây là giao diện chính để trò chuyện với AI.

Ngoài ra còn có cửa sổ quản lý để cấu hình:

• agent
• mô hình
• plugin và công cụ
• bộ nhớ
• automation và workflow

Tất cả đều chạy thông qua cùng một vòng lặp agent nội bộ của hệ thống.

Agent có bộ nhớ lâu dài

Trong Osaurus, mỗi agent có thể lưu:

• cấu hình
• prompt hệ thống
• bộ nhớ
• công cụ

Nhờ lớp “context” này được lưu cục bộ, workflow vẫn hoạt động ngay cả khi bạn đổi sang mô hình AI khác.

Plugin, công cụ và MCP

Osaurus hỗ trợ:

• plugin native
• công cụ từ bên ngoài
• tích hợp qua Model Context Protocol (MCP)

Điều này cho phép AI agent tương tác với ứng dụng khác hoặc môi trường phát triển mà vẫn giữ quá trình điều phối ở máy local.

Nhập liệu bằng giọng nói (Speech‑to‑Text)

Nền tảng cũng hỗ trợ speech‑to‑text chạy hoàn toàn trên máy thông qua WhisperKit và các mô hình Whisper.

Tính năng này cho phép:

• ghi âm từ microphone
• chuyển âm thanh hệ thống thành văn bản
• hiển thị nội dung theo thời gian thực

Tất cả dữ liệu đều được xử lý trên máy, không gửi ra máy chủ bên ngoài.

CLI và API local

Ngoài giao diện đồ họa, Osaurus còn cung cấp:

• CLI (command‑line interface) để quản lý mô hình và agent
• HTTP API local cho lập trình viên

Điều này cho phép tự động hóa workflow hoặc tích hợp với ứng dụng khác một cách linh hoạt.

Sandbox Linux giúp tăng bảo mật

Một thách thức lớn khi dùng AI agent là việc chúng có thể thực thi mã hoặc thao tác hệ thống.

Osaurus giải quyết vấn đề này bằng cách chạy agent trong máy ảo Linux sandbox.

Sandbox này sử dụng framework container của Apple và chạy môi trường Alpine Linux với đầy đủ công cụ POSIX như:

• shell
• Python
• Node
• compiler
• package manager

Thiết kế này mang lại một số lợi ích bảo mật quan trọng:

• Cô lập khỏi macOS: mã của agent không chạy trực tiếp trên hệ điều hành chính
• Kiểm soát quyền truy cập: hệ thống có thể giới hạn quyền của agent
• Giảm rủi ro tự động hóa: lỗi hoặc mã độc khó ảnh hưởng tới máy người dùng

Nhờ vậy, Osaurus vẫn hỗ trợ workflow tự động phức tạp nhưng hạn chế nguy cơ gây hại cho hệ thống.

Yêu cầu phần cứng và macOS

Osaurus chỉ hỗ trợ Mac dùng chip Apple Silicon và không chạy trên Mac Intel.

Yêu cầu tối thiểu gồm:

• Mac dùng M1, M2, M3 hoặc mới hơn
• macOS 15.5 trở lên
• khoảng 2–20 GB dung lượng cho mỗi mô hình AI local

Một số tính năng nâng cao như sandbox Linux hoặc tích hợp Apple Foundation Models yêu cầu macOS 26 (Tahoe) vì phụ thuộc vào framework container và AI mới của Apple.

Vì sao Osaurus đang thu hút sự chú ý

Trong bối cảnh thị trường công cụ AI ngày càng đông, Osaurus nổi lên nhờ một số xu hướng lớn:

1. Quyền riêng tư và kiểm soát dữ liệu
Nhiều người dùng muốn dữ liệu và workflow AI nằm trên thiết bị cá nhân thay vì máy chủ bên ngoài. Osaurus giữ lớp bộ nhớ và công cụ ngay trên Mac.

2. Không bị khóa vào một mô hình AI
Các nhà cung cấp AI thay đổi rất nhanh. Osaurus cho phép thay model mà không cần xây dựng lại toàn bộ workflow.

3. Mô hình hybrid local + cloud
Mô hình local mang lại sự riêng tư và khả năng dùng offline, còn cloud cung cấp sức mạnh tính toán lớn hơn khi cần.

4. Kiến trúc thân thiện với lập trình viên
Nhờ các API tương thích phổ biến, công cụ hiện có có thể kết nối vào Osaurus mà không cần viết lại tích hợp.

Ý tưởng lớn phía sau Osaurus

Theo cách nhìn của dự án, thứ quan trọng nhất trong hệ sinh thái AI không phải là bản thân mô hình — vì chúng ngày càng rẻ và có thể thay thế — mà là "context layer" xung quanh nó: bộ nhớ, công cụ, workflow và danh tính người dùng.

Bằng cách giữ lớp này trên thiết bị cá nhân, Osaurus hướng tới một tương lai nơi máy tính cá nhân trở thành môi trường AI hoàn chỉnh, có thể chạy agent, automation và mô hình ngay trên máy nhưng vẫn kết nối với hệ sinh thái AI rộng lớn khi cần.