Osaurus: 맥에서 직접 AI 모델을 실행하고 클라우드와 연결하는 로컬‑퍼스트 플랫폼

왜 이런 플랫폼이 등장했을까

현재 대부분의 AI 서비스는 클라우드 중심이다. 사용자의 질문, 파일, 대화 기록이 서버로 전송되는 구조다. Osaurus는 이를 바꾸려는 시도다.

Osaurus의 접근 방식은 다음과 같다.

• 컨텍스트는 로컬에 저장: 메모리, 도구, 파일, 에이전트 설정이 Mac에 남는다.
• 모델은 교체 가능한 구성 요소: 로컬 모델이나 클라우드 모델을 상황에 맞게 선택한다.

이 구조 덕분에 AI 모델 공급자가 바뀌어도 사용자의 워크플로우와 자동화 환경은 그대로 유지된다.

로컬 모델과 클라우드 모델을 하나의 인터페이스에서

Osaurus의 가장 큰 특징 중 하나는 통합 모델 라우팅 시스템이다. 하나의 인터페이스에서 다음과 같은 모델을 선택할 수 있다.

• Mac에서 직접 실행되는 MLX 기반 로컬 모델
• Apple Intelligence의 온디바이스 Foundation 모델
• OpenAI, Anthropic 등 클라우드 AI 서비스

채팅 인터페이스에서 모델을 즉시 전환할 수 있어 동일한 에이전트와 메모리를 유지한 채 작업을 이어갈 수 있다.

또한 로컬 서버는 여러 API 형식을 동시에 제공한다.

• OpenAI 호환 API
• Anthropic 스타일 메시지 API
• Ollama 호환 엔드포인트
• Model Context Protocol(MCP)

덕분에 기존 앱이나 개발 도구는 Osaurus를 일반적인 AI API 제공자처럼 연결할 수 있고, 실제 실행은 로컬 또는 클라우드 중 적절한 곳에서 이루어진다.

Osaurus가 지원하는 모델 종류

Osaurus는 특정 모델에 종속되지 않는 모델‑중립(model‑agnostic) 구조를 채택했다.

사용 가능한 모델 유형은 예를 들면 다음과 같다.

• Llama 계열, Gemma, Qwen 등 오픈소스 로컬 모델
• Apple Intelligence의 온디바이스 Foundation 모델
• OpenAI, Anthropic 등 클라우드 AI 모델

예를 들어 이동 중에는 작은 로컬 모델을 사용하다가 복잡한 작업이 필요할 때 클라우드 모델로 전환하는 식의 하이브리드 AI 워크플로우도 가능하다.

주요 기능

Osaurus는 단순한 채팅 앱이 아니라 여러 AI 인프라 기능을 하나의 macOS 앱으로 묶은 형태다.

시스템 전체에서 호출 가능한 채팅 오버레이

단축키로 어디서든 호출할 수 있는 시스템‑와이드 채팅 인터페이스가 기본 인터페이스다. 별도의 관리 창에서는 에이전트, 모델, 플러그인, 자동화 설정 등을 관리할 수 있다.

지속되는 에이전트와 메모리

Osaurus의 에이전트는 세션이 끝나도 설정과 메모리를 유지한다. 모델을 바꾸더라도 같은 에이전트와 워크플로우를 계속 사용할 수 있다.

플러그인·도구·MCP 연동

플랫폼은 **Model Context Protocol(MCP)**을 지원해 외부 앱이나 개발 도구와 연결할 수 있다. 또한 네이티브 플러그인을 통해 다양한 작업 자동화를 구성할 수 있다.

로컬 음성 인식

Whisper 기반 WhisperKit을 통해 음성 인식도 로컬에서 실행된다. 마이크 입력이나 시스템 오디오를 실시간으로 텍스트로 변환할 수 있으며 데이터가 외부 서버로 전송되지 않는다.

CLI와 로컬 API

개발자는 내장된 CLI와 HTTP 서버를 이용해 모델 관리, 에이전트 제어, 자동화 작업 등을 스크립트나 애플리케이션에서 직접 제어할 수 있다.

에이전트 실행을 위한 샌드박스 구조

AI 에이전트가 코드 실행이나 시스템 작업을 수행할 경우 보안 위험이 생길 수 있다. Osaurus는 이를 해결하기 위해 리눅스 가상 머신 기반 샌드박스를 사용한다.

이 환경은 Apple의 컨테이너 기술을 기반으로 하며 Alpine Linux와 POSIX 도구 체인을 제공한다.

예를 들어 다음과 같은 도구를 사용할 수 있다.

• 쉘 환경
• Python 및 Node
• 컴파일러
• 패키지 매니저

중요한 점은 이 코드가 macOS와 분리된 환경에서 실행된다는 것이다.

이 구조의 장점은 다음과 같다.

• macOS 시스템과 격리된 실행
• 접근 권한을 제한한 안전한 자동화
• 악성 코드나 오류로부터 호스트 시스템 보호

즉, 자동화 에이전트를 실행하면서도 보안 리스크를 줄일 수 있는 구조다.

필요한 하드웨어와 macOS 버전

Osaurus는 애플 실리콘 전용으로 설계되었다. Intel Mac에서는 실행되지 않는다.

기본 요구사항은 다음과 같다.

• Apple Silicon Mac (M1, M2, M3 이상)
• macOS 15.5 이상
• 로컬 모델당 약 2~20GB 저장 공간

일부 기능은 더 높은 OS 버전이 필요하다.

예를 들어

• Linux 샌드박스
• Apple Foundation 모델 통합

같은 기능은 Apple의 최신 컨테이너 및 AI 프레임워크가 필요한 macOS 26(Tahoe) 이상에서만 활성화된다.

최근 주목받는 이유

AI 도구가 빠르게 늘어나는 가운데 Osaurus가 관심을 받는 이유는 몇 가지가 있다.

1. 데이터 프라이버시

많은 사용자가 개인 데이터가 클라우드 서버로 자동 전송되는 것을 꺼린다. Osaurus는 메모리와 파일을 사용자 Mac에 유지하는 구조를 강조한다.

2. 모델 종속성 탈피

AI 모델은 빠르게 바뀌고 있다. Osaurus는 모델을 교체 가능한 구성 요소로 취급해 특정 공급자에 묶이지 않는 환경을 제공한다.

3. 로컬 + 클라우드 하이브리드

로컬 모델은 프라이버시와 오프라인 사용에 강점이 있고, 클라우드 모델은 더 높은 성능을 제공한다. Osaurus는 두 접근 방식을 동시에 사용할 수 있는 구조를 제공한다.

4. 개발자 친화적 구조

OpenAI, Anthropic 등과 호환되는 API를 제공하기 때문에 기존 애플리케이션이나 SDK를 거의 수정 없이 연결할 수 있다.

더 큰 방향: 개인 컴퓨터 위의 AI 레이어

Osaurus의 철학은 명확하다. AI에서 가장 중요한 것은 모델 자체가 아니라 사용자의 컨텍스트—기억, 도구, 작업 흐름, 정체성이라는 것이다.

이 레이어를 사용자 컴퓨터에 두면 AI는 특정 서비스가 아니라 개인의 디지털 환경 일부가 된다.

만약 이런 접근 방식이 확산된다면, 특히 성능이 강한 애플 실리콘 맥은 앞으로 개인용 AI 실행 환경이자 에이전트 자동화 플랫폼으로 발전할 가능성이 있다.