Osaurus: как Mac может стать персональным центром искусственного интеллекта

По сути, Osaurus выполняет две роли одновременно:

• Нативное AI‑приложение для macOS с интерфейсом чата и управления
• Локальный LLM‑сервер и API‑шлюз, к которому могут подключаться другие программы

Приложение написано на Swift и использует MLX — фреймворк машинного обучения Apple, оптимизированный для вычислений на устройствах с Apple Silicon.

Единый интерфейс для локальных и облачных моделей

Одна из ключевых возможностей Osaurus — маршрутизация моделей. Через один интерфейс пользователь может выбирать разные источники AI:

• Локальные модели MLX, работающие прямо на Mac
• Apple Foundation Models, доступные через систему Apple Intelligence
• Облачные сервисы, например OpenAI или Anthropic

Модель можно переключить прямо внутри интерфейса чата без изменения рабочих процессов или настроек инструментов.

Внутри система предоставляет несколько API‑форматов через один локальный сервер, включая:

• OpenAI‑совместимые endpoint‑ы
• API в стиле Anthropic
• совместимость с Ollama
• инструменты Model Context Protocol (MCP)

Благодаря этому существующие приложения и SDK могут обращаться к Osaurus как к обычному AI‑провайдеру. Платформа сама решает, будет ли запрос выполнен локально или отправлен в облако.

Какие модели поддерживает Osaurus

Osaurus изначально создавался как модель‑агностичная платформа, то есть он не зависит от одной конкретной семейства моделей.

Через систему можно запускать, например:

• локальные open‑source модели вроде Llama, Gemma или Qwen в формате MLX
• системные Apple Foundation Models через Apple Intelligence
• облачные модели от провайдеров вроде OpenAI и Anthropic

Пользователь может комбинировать разные варианты. Например, небольшая локальная модель может работать офлайн, а для сложных задач можно временно переключиться на более мощную облачную модель — при этом агенты и память остаются прежними.

Основные функции платформы

Osaurus объединяет несколько компонентов AI‑инфраструктуры в одном приложении macOS.

Системный чат‑оверлей

Основной интерфейс — это глобальный чат‑оверлей, который можно вызвать в любой момент работы на Mac. Также есть отдельное окно управления, где настраиваются агенты, модели, плагины, инструменты и автоматизация.

Постоянные агенты и память

Агенты сохраняют конфигурацию, системные промпты и память между сессиями. Это означает, что рабочие процессы продолжают работать даже при смене модели или провайдера.

Плагины, инструменты и MCP

Платформа поддерживает плагины и внешние инструменты через Model Context Protocol (MCP). Благодаря этому Osaurus можно интегрировать с внешними приложениями и средами разработки, сохраняя основную логику управления локально.

Голос и распознавание речи

В системе также реализовано локальное распознавание речи через WhisperKit и модели Whisper. Транскрибация выполняется полностью на Mac, поддерживает ввод с микрофона и даже распознавание системного аудио без отправки данных на внешние серверы.

CLI и локальный API

Разработчики могут управлять платформой через встроенный CLI и локальный HTTP‑сервер. Это позволяет программно управлять моделями, агентами и инструментами.

Песочница для выполнения кода AI‑агентами

AI‑агенты, способные запускать код и автоматизацию, могут представлять риск для системы. В Osaurus эта проблема решается с помощью изолированной Linux‑виртуальной машины.

Песочница работает на базе фреймворка контейнеризации Apple и запускает среду Alpine Linux с полноценным POSIX‑набором инструментов: shell, Python, Node, компиляторы и менеджеры пакетов.

Такой подход даёт несколько преимуществ безопасности:

• Изоляция от macOS: код агентов выполняется в отдельной среде
• Контролируемый доступ: права ограничиваются настройками песочницы
• Безопасная автоматизация: сложные задачи можно выполнять без прямого вмешательства в систему

Эта архитектура позволяет запускать автономные AI‑агенты, уменьшая риск того, что вредоносный или ошибочный код повлияет на основной компьютер пользователя.

Требования к оборудованию и macOS

Osaurus разработан специально для Apple Silicon и не поддерживает Intel‑Mac.

Минимальные требования:

• Mac с чипом Apple Silicon (M1, M2, M3 и новее)
• macOS 15.5 или более новая версия
• примерно 2–20 ГБ свободного места на одну локальную модель

Некоторые возможности — например Linux‑песочница или интеграция с Apple Foundation Models — требуют macOS 26 (Tahoe) или новее, поскольку используют новые фреймворки контейнеризации и AI от Apple.

Почему Osaurus привлекает внимание

Несмотря на большое количество AI‑инструментов, Osaurus быстро стал обсуждаемым проектом из‑за нескольких тенденций.

1. Конфиденциальность и контроль над данными
Многие пользователи хотят использовать AI, не отправляя данные автоматически в облако. Osaurus хранит память, файлы и агенты локально на компьютере пользователя.

2. Свобода выбора моделей
AI‑модели и провайдеры меняются очень быстро. В Osaurus модели — взаимозаменяемые компоненты, а рабочие процессы и настройки остаются прежними.

3. Гибридный подход к AI
Локальные модели обеспечивают приватность и офлайн‑режим, а облачные дают дополнительную вычислительную мощность. Osaurus объединяет оба подхода в одной системе.

4. Удобство для разработчиков
Совместимость с популярными API позволяет подключать существующие инструменты без переписывания интеграций.

Более широкая идея: персональный слой AI на вашем компьютере

Создатели Osaurus исходят из того, что самое ценное в современных AI‑системах — не сами модели, а контекст вокруг них: память, инструменты, рабочие процессы и пользовательская идентичность. Перенеся этот слой на устройство пользователя, платформа пытается сделать AI‑ассистентов более личными и независимыми от конкретных компаний или сервисов.

Если такая архитектура станет популярной, инструменты вроде Osaurus могут превратить персональные компьютеры — особенно мощные Mac на Apple Silicon — в полноценные локальные AI‑платформы, способные запускать модели, агентов и автоматизацию прямо на устройстве, подключаясь к облаку только при необходимости.