Osaurus：让你的 Mac 成为本地 AI 中枢

因此，它不仅是一款聊天应用，更像是一个位于应用与 AI 模型之间的“控制层”（AI harness）。所有请求都会通过 Osaurus，再由系统决定是在本地模型还是云端模型上执行。

为什么要做“本地优先”AI

目前很多 AI 产品把用户数据、聊天记录和文件处理都放在云端服务器上。这带来了两个问题：隐私和厂商锁定。

Osaurus 的思路是把最关键的一层——上下文层（context layer）——留在用户设备上，包括：

• AI 代理（Agents）
• 长期记忆
• 文件与工具
• 自动化流程

模型只是可替换的组件。如果未来出现更好的模型，你只需要更换模型，而不必迁移整套 AI 工作环境。

一个界面连接本地和云端模型

Osaurus 的核心能力是 统一模型路由。在同一个聊天界面中，用户可以随时切换不同来源的模型，例如：

• 本地运行的 MLX 模型（直接在 Mac 上推理）
• Apple Foundation Models（通过 Apple Intelligence 提供）
• 云端模型，例如 OpenAI 或 Anthropic

在界面中切换模型几乎是即时完成的，不需要重新配置代理或工具。

在技术上，Osaurus 还提供多种 API 兼容层，例如：

• OpenAI 兼容接口
• Anthropic 风格消息 API
• Ollama 兼容接口
• Model Context Protocol（MCP）工具接口

因此，很多现有开发工具或 SDK 可以直接把 Osaurus 当作一个 AI 服务端来使用，而 Osaurus 会在后台决定请求是在本地还是云端执行。

支持哪些 AI 模型

Osaurus 的设计是 模型无关（model‑agnostic），也就是说它不依赖某一家模型厂商。

可运行的模型包括：

• 开源本地模型，例如 Llama 系列、Gemma、Qwen 等 MLX 兼容模型
• Apple Foundation Models（设备端模型）
• 云端模型，例如 OpenAI、Anthropic 等服务

用户可以混合使用这些模型。例如：

• 离线时使用小型本地模型
• 复杂任务切换到云端大模型

整个过程中，代理配置和记忆都保持不变。

Osaurus 的核心功能

Osaurus 将多个 AI 基础设施组件整合到一个 macOS 应用中。

全局聊天界面

系统级聊天叠加层（快捷键 ⌘;）允许用户在 Mac 任意位置快速调用 AI 助手。应用还提供管理界面，用于配置模型、代理、插件和自动化设置。

持久化代理与记忆

在 Osaurus 中，AI 代理可以跨会话保存：

• 系统提示词
• 代理配置
• 长期记忆

即使更换模型或服务提供商，这些上下文也不会丢失。

插件、工具与 MCP

平台支持原生插件，并通过 Model Context Protocol（MCP） 与外部工具连接。这意味着开发者可以把 IDE、自动化脚本或其他应用接入 Osaurus。

本地语音转文字

Osaurus 内置基于 WhisperKit 的语音识别系统，可在本机完成语音转文字处理。

功能包括：

• 实时语音转写
• 支持多种 Whisper 模型
• 麦克风或系统音频识别

整个过程无需将音频发送到云端服务器。

CLI 与本地 API

开发者还可以通过：

• 命令行工具（CLI）
• 本地 HTTP API

来管理模型、代理和插件，实现脚本化或自动化控制。

沙箱设计：让 AI 代理更安全

允许 AI 自动执行代码可能带来风险。为此，Osaurus 将代理代码运行在 隔离的 Linux 虚拟机沙箱 中。

该沙箱基于 Apple 的容器化框架，运行 Alpine Linux 环境，并提供完整的 POSIX 工具链，例如：

• Shell
• Python
• Node
• 编译器
• 包管理器

这种架构带来几个安全优势：

• 系统隔离：代理代码不会直接访问 macOS
• 权限控制：系统访问受沙箱限制
• 安全自动化：即使脚本出错，也不会破坏主机系统

这使得 Osaurus 能支持更复杂的自动化代理，同时降低安全风险。

硬件与系统要求

Osaurus 专门为 Apple Silicon 设计，因此 不支持 Intel Mac。

基本要求包括：

• Apple Silicon Mac（M1、M2、M3 或更新）
• macOS 15.5 或更高版本
• 每个本地模型约 2–20GB 存储空间

部分高级功能还需要更新系统版本，例如：

• Linux 沙箱
• Apple Foundation Models 集成

这些功能需要 macOS 26（Tahoe）或更高版本。

为什么 Osaurus 正在受到关注

在 AI 工具快速发展的背景下，Osaurus 吸引了不少开发者和技术用户的兴趣，原因主要有四点：

1. 隐私与数据控制
Osaurus 将记忆、文件和代理保存在用户设备上，而不是默认上传到云端。

2. 模型自由切换
随着 AI 模型快速迭代，平台允许用户在不同模型之间切换，而不影响现有工作流。

3. 混合 AI 工作模式
本地模型提供隐私和离线能力，云端模型提供更强算力，两者可以在同一系统中协同工作。

4. 对开发者友好
通过 OpenAI、Anthropic、Ollama 等兼容 API，很多现有工具无需修改即可接入 Osaurus。

一个更大的设想：个人 AI 层

Osaurus 的理念是：在 AI 系统中，最重要的不是模型本身，而是围绕模型建立的 上下文、记忆、工具和身份层。

如果这种模式被更多人采用，未来的个人电脑——尤其是算力强大的 Apple Silicon Mac——可能会逐渐变成 个人 AI 平台：

• 在本地运行模型
• 运行自动化代理
• 管理个人数据和记忆
• 必要时再连接云端 AI

在这种架构下，用户拥有的不只是一个 AI 应用，而是一个真正属于自己的 AI 环境。